URL: https://www.opennet.ru/cgi-bin/openforum/vsluhboard.cgi
Форум: vsluhforumID1
Нить номер: 97503
[ Назад ]

Исходное сообщение
"Вопросы по самосборному 'серверу'"

Отправлено DHCPep , 10-Дек-19 22:08 
Друзья, добрый день!

Мне необходимо организовать сервер для веб-приложения.
FreeBSD + lighttpd + PHP + MariaDB + Redis

И у меня несколько вопросов, ответы на которые хочу спросить у вас.
1. По дисковой подсистеме. Так как денег нет, но держаться приходится то думаю сделать зеркало из SSD'ов, но конечно видимо не серверного класса.
- Зеркалирование на SSD'ах это вообще имеет смысл или они сдохнут одномоментно?
- Стоит ли для исключения синхронного подыхания SSD брать разные модели?
- Если делать упреждающую замену одного из дисков в зеркале, с какой периодичностью стоит это делать?
- Стоит ли отдельные группы зеркал делать для файлов БД и для веб-сервера?
- Если для веб-сервера подходит zfs (для снимков), то для файлов БД снимки не подходят, стоит ли зеркало для БД делать на gmirror + UFS?

2. По цпу и памяти. Опять же т.к. приходится выкручиваться имеющимися средствами, пока могу себе позволить лишь настольную платформу.
- Если исходить из ryzen'а на 8 ядер + 64гб памяти, то вся вышеупомянутая связка "поместится" на одной машине? Или стоит какие-то сервисы принципиально выносить на отдельный сервер?


Спасибо за ответы!


Содержание

Сообщения в этом обсуждении
"Вопросы по самосборному 'серверу'"
Отправлено Seymour Cray , 10-Дек-19 22:49 
> Друзья, добрый день!
> Мне необходимо организовать сервер для веб-приложения.
> FreeBSD + lighttpd + PHP + MariaDB + Redis
> И у меня несколько вопросов, ответы на которые хочу спросить у вас.
> 1. По дисковой подсистеме. Так как денег нет, но держаться приходится то
> думаю сделать зеркало из SSD'ов, но конечно видимо не серверного класса.
> - Зеркалирование на SSD'ах это вообще имеет смысл или они сдохнут одномоментно?

Если в основном чтение и минимальная запись то прослужить могут долго. Зависит от объема записи.

> - Стоит ли для исключения синхронного подыхания SSD брать разные модели?

мониторинг smart атрибутов , думаю, тут более важен. Чем лотерея с подбором разных дисков
> - Если делать упреждающую замену одного из дисков в зеркале, с какой
> периодичностью стоит это делать?

Как только смарты полезут за пределы разумного
> - Стоит ли отдельные группы зеркал делать для файлов БД и для
> веб-сервера?

на ssd нет
> - Если для веб-сервера подходит zfs (для снимков), то для файлов БД
> снимки не подходят, стоит ли зеркало для БД делать на gmirror
> + UFS?

репликация + dump . percona backup снимает без блокировки если что
> 2. По цпу и памяти. Опять же т.к. приходится выкручиваться имеющимися средствами,
> пока могу себе позволить лишь настольную платформу.
> - Если исходить из ryzen'а на 8 ядер + 64гб памяти, то
> вся вышеупомянутая связка "поместится" на одной машине? Или стоит какие-то сервисы
> принципиально выносить на отдельный сервер?

т.к собираете из говна и палок. то предложу свой вариант:
1. материнга dl180g6 22доллара на ибее
2. 2 процессора тодаже по 1000 рублей за штуку (12 ядер 24 потока будет) на авите
3. 64 гига ddr3 ecc обойдутся в 16000 рублей
4. корпус под это дело еще 3000
5. купите 2 нормальных шпиндельных требуемой емкости и 1 ssd и сделайте ssd cache

все вместе обойдется тысяч в 25-30 рублей.


> Спасибо за ответы!


"Вопросы по самосборному 'серверу'"
Отправлено DHCPep , 11-Дек-19 18:31 
>> Спасибо за ответы!

Т.е. брать на иттело себе серверное но подержанное железо.
А в этом случае выигрышь будет в надёжности или в производительности тоже плюс?


"Вопросы по самосборному 'серверу'"
Отправлено ACCA , 10-Дек-19 22:55 
А почему не хостинг у какого-нибудь Vultr или DigitalOcean?

30тыр - это почти 8 лет аренды VM 1CPU/1G/1T


"Вопросы по самосборному 'серверу'"
Отправлено Seymour Cray , 11-Дек-19 00:49 
> А почему не хостинг у какого-нибудь Vultr или DigitalOcean?
> 30тыр - это почти 8 лет аренды VM 1CPU/1G/1T

согласен. в наших реалиях покупать свое железо невыгодно до определенного момента


"Вопросы по самосборному 'серверу'"
Отправлено DHCPep , 11-Дек-19 18:31 
> А почему не хостинг у какого-нибудь Vultr или DigitalOcean?
> 30тыр - это почти 8 лет аренды VM 1CPU/1G/1T

Всё своё ношу с собой :)


"Вопросы по самосборному 'серверу'"
Отправлено муу , 11-Дек-19 12:06 
> Мне необходимо организовать сервер для веб-приложения.
> FreeBSD + lighttpd + PHP + MariaDB + Redis

а мсье таки знает толк, однако


"Вопросы по самосборному 'серверу'"
Отправлено DHCPep , 11-Дек-19 18:29 
> а мсье таки знает толк, однако

Вы совершенно правы сударь! И мсьё в данном случае всё устраивает!


"Вопросы по самосборному 'серверу'"
Отправлено Фигноним , 12-Дек-19 11:35 
Если как следует прошерстить авиту, то за 30 вполне можно найти бушный двухголовый делл с 2630 и 24 дырками под память и 64 гигами в них (ддр4 с есс 8 гиг рублей по 700 за модуль), двумя бп, хардварным сас рейдом на батарейке, еще чуток фантазии и там же за пятак найдется nvme с ресурсом в две трети, который сложно выбрать в одно рыло лет за 20, и парой-тройкой толковых винтов 15к гиг по 300 тысячи по полторы, на которые будет не страшно поселить мускул в зеркало, оставив один под замену. В итоге тысяч за 40 можно собрать железку которая не будет идти вообще ни в какое сравнение с указанной конфой. Придется попыхтеть, но я уверяю можно найти железо качества муха не сидела. Сложней всего с винтами и nvme.

Поверх железки поставить нормальный гипервизор, проксик тот же хотя бы, чтобы не мучаться с первоначальной сборкой конфы, сервисы растащить по виртуалкам или контейнерам. Бздю исключить.


"Вопросы по самосборному 'серверу'"
Отправлено Фигноним , 12-Дек-19 11:55 
> Бздю исключить.

Не потому, что она плохая, просто на лине будет быстрее и проще со всей этой фигней взлететь.


"Вопросы по самосборному 'серверу'"
Отправлено Аноним , 12-Дек-19 12:08 
>> Бздю исключить.
> Не потому, что она плохая, просто на лине будет быстрее и проще
> со всей этой фигней взлететь.

С чем тут взлетать? Самое сложное в описываемой конфигурации - завести зеркало на zfs.


"Вопросы по самосборному 'серверу'"
Отправлено Фигноним , 12-Дек-19 12:22 
А также самое ненужное

"Вопросы по самосборному 'серверу'"
Отправлено Фигноним , 12-Дек-19 12:28 
Я писал о взлете сразу на гипервизоре с контейнерами. zfs в моей схеме вообще бесполезен по причине хардварного рейда на батарейке. Все остальное (а это будут образы виртуалок и прочая воспроизводимая хрень) поселить на nvme, без резервирования с регулярным инкрементарным бэкапом, времени и места займет пшик, при полном швахе поднять можно будет за час.

"Вопросы по самосборному 'серверу'"
Отправлено Аноним , 12-Дек-19 12:55 
> Я писал о взлете сразу на гипервизоре с контейнерами. zfs в моей
> схеме вообще бесполезен по причине хардварного рейда на батарейке. Все остальное
> (а это будут образы виртуалок и прочая воспроизводимая хрень) поселить на
> nvme, без резервирования с регулярным инкрементарным бэкапом, времени и места займет
> пшик, при полном швахе поднять можно будет за час.

Образы виртуалок инкрементальным бэкапом :))))

Вот тут как раз снапшоты zfs были бы уместны. Параллельно с регулярными полными бэкапами.


"Вопросы по самосборному 'серверу'"
Отправлено Аноним , 12-Дек-19 12:04 
>[оверквотинг удален]
> две трети, который сложно выбрать в одно рыло лет за 20,
> и парой-тройкой толковых винтов 15к гиг по 300 тысячи по полторы,
> на которые будет не страшно поселить мускул в зеркало, оставив один
> под замену. В итоге тысяч за 40 можно собрать железку которая
> не будет идти вообще ни в какое сравнение с указанной конфой.
> Придется попыхтеть, но я уверяю можно найти железо качества муха не
> сидела. Сложней всего с винтами и nvme.
> Поверх железки поставить нормальный гипервизор, проксик тот же хотя бы, чтобы не
> мучаться с первоначальной сборкой конфы, сервисы растащить по виртуалкам или контейнерам.
> Бздю исключить.

Б/у выйдет дороже и хуже. И работать будет в лучшем случае так же, и если надо будет что-то поменять, нужно будет искать рег память и винтажные серверные процессоры. Нафиг вы такое советуете? Торгуете б/ушкой?


"Вопросы по самосборному 'серверу'"
Отправлено Фигноним , 12-Дек-19 12:14 
Советую потому, что собрать что-то новое, способное, даже рядом, на 24 потока, с резервом по памяти, питанию и железным рейдом на батарейке за деньги в районе 40 тыр невозможно, только бу. К превеликой радости начала выходить из эксплуатации 26 серия и сильно подешевела, еще полгода назад такая железка встала бы в районе 70-80 тыр. Сразу собранная нормальная конфа позволит спокойно управлять ресурсами, без простоев либо с минимальными. Ничем не торгую. Если у человека далекоидущие планы - делать надо сразу нормально. Переезжать на другую платформу на взлетевшем проекте будет больно. А собираться на домашнем компе элементарно глупо.

"Вопросы по самосборному 'серверу'"
Отправлено Аноним , 12-Дек-19 12:47 
> Советую потому, что собрать что-то новое, способное, даже рядом, на 24 потока,
> с резервом по памяти, питанию и железным рейдом на батарейке за
> деньги в районе 40 тыр невозможно, только бу. К превеликой радости
> начала выходить из эксплуатации 26 серия и сильно подешевела, еще полгода
> назад такая железка встала бы в районе 70-80 тыр. Сразу собранная
> нормальная конфа позволит спокойно управлять ресурсами, без простоев либо с минимальными.
> Ничем не торгую. Если у человека далекоидущие планы - делать надо
> сразу нормально. Переезжать на другую платформу на взлетевшем проекте будет больно.
> А собираться на домашнем компе элементарно глупо.

Железный рейд не нужен. Древние камни не нужны. Рег память не нужна (от нее все избавляются в продакшене).
Сказки про то, как надо "нормально" оставьте тем, кто не знает, что ему нужно.


"Вопросы по самосборному 'серверу'"
Отправлено Pahanivo , 12-Дек-19 14:46 
> Железный рейд не нужен. Древние камни не нужны. Рег память не нужна
> (от нее все избавляются в продакшене).
> Сказки про то, как надо "нормально" оставьте тем, кто не знает, что
> ему нужно.

смишно ....


"Вопросы по самосборному 'серверу'"
Отправлено ACCA , 17-Дек-19 07:02 
> Железный рейд не нужен. Древние камни не нужны. Рег память не нужна
> (от нее все избавляются в продакшене).

А расскажи мне про рег. память - это почему я в продакшен должен отказаться от чуть более тормозной, но намного более надёжной памяти?


"Вопросы по самосборному 'серверу'"
Отправлено Фигноним , 12-Дек-19 12:19 
по секрету также скажу что есс на авито найти можно в любом количестве по ценам гораздо ниже обычной, за что также спасибо начавшемуся выводу из эксплуатации e5.
Жалко пока еще слишком дорогие камни из второй серии, но это временно и резерв по ним будет до 48 потоков.

"Вопросы по самосборному 'серверу'"
Отправлено Аноним , 12-Дек-19 12:51 
> по секрету также скажу что есс на авито найти можно в любом
> количестве по ценам гораздо ниже обычной, за что также спасибо начавшемуся
> выводу из эксплуатации e5.
> Жалко пока еще слишком дорогие камни из второй серии, но это временно
> и резерв по ним будет до 48 потоков.

Я сам продавал рег память на авито. Которую перед этим вынули из сервера и заменили на обычную, не рег.  
Еще раз повторю: никому не нужно ваше древнее "серверное". Современное десктопное рвет его с отрывом.


"Вопросы по самосборному 'серверу'"
Отправлено lavr , 12-Дек-19 16:02 
>> по секрету также скажу что есс на авито найти можно в любом
>> количестве по ценам гораздо ниже обычной, за что также спасибо начавшемуся
>> выводу из эксплуатации e5.
>> Жалко пока еще слишком дорогие камни из второй серии, но это временно
>> и резерв по ним будет до 48 потоков.
> Я сам продавал рег память на авито. Которую перед этим вынули из
> сервера и заменили на обычную, не рег.
> Еще раз повторю: никому не нужно ваше древнее "серверное". Современное десктопное рвет
> его с отрывом.

смишно (с) Pahanivo


"Вопросы по самосборному 'серверу'"
Отправлено DHCPep , 12-Дек-19 23:01 
Спасибо за подробные пояснения!

"Вопросы по самосборному 'серверу'"
Отправлено toge , 16-Дек-19 22:56 
> Бздю исключить.

Чче за бред. У меня нормально каждый сервис в своем датасете. Кто в джеле, кто в бихайве. И нах мне твой линь.



"Вопросы по самосборному 'серверу'"
Отправлено Pahanivo , 12-Дек-19 11:36 
ИМХО зеркало на SSD бессмысленно.
По железу можно порыться в бу - сервачков много сливают.

"Вопросы по самосборному 'серверу'"
Отправлено Аноним , 12-Дек-19 12:03 
> ИМХО зеркало на SSD бессмысленно.
> По железу можно порыться в бу - сервачков много сливают.

Зеркало на SSD мастхэв, вы не шарите.
Старый серверный хлам вчистую проиграет самосбору на райзене.


"Вопросы по самосборному 'серверу'"
Отправлено Фигноним , 12-Дек-19 12:31 
> Старый серверный хлам вчистую проиграет самосбору на райзене.

:) даже добавить нечего


"Вопросы по самосборному 'серверу'"
Отправлено Аноним , 12-Дек-19 12:44 
>> Старый серверный хлам вчистую проиграет самосбору на райзене.
> :) даже добавить нечего

Продавцу хлама нечего сказать в ответ на правду.


"Вопросы по самосборному 'серверу'"
Отправлено Аноним , 12-Дек-19 12:02 
1
- зеркало из SSD абсолютно правильная идея. Зеркало вас убережет от выхода из строя контроллера одного из дисков. Про NAND не волнуйтесь - SSD сейчас уже имеют достаточно большой ресурс, чтобы вы могли исходя из него планово их заменять. Опять же, с зеркалом менять проще - заменили первый - синхронизировались, вынули второй - синхронизировались.
- нет
- перед исчерпанием ресурса меняете по очереди оба
- если физические носители одни, нет. Если разные и вам не жалко денег - без проблем.
- вы же не думаете заменить бэкапы снапшотами? Это безграмотно и будет стоить вам данных. geom с ufs отлично работает, даже наверно лучше, чем zpool. Но я бы не смешивал, либо zfs, либо geom. Для простоты.

2
- На серверах с похожими характеристиками не так давно целые хостинги с тысячами клиентов работали. Поместится конечно.
С таким количеством памяти и быстрыми дисками можно ничего не выносить. Тормозить начнет - тогда и подумаете над этим. Не усложняйте себе жизнь без необходимости.


"Вопросы по самосборному 'серверу'"
Отправлено Аноним , 12-Дек-19 12:43 
Да, тут советуют железные рейды "с батарейкой". Ни в коем случае!
Это все виндузоиды, у которых система не умеет делать нормальные зеркала. Для начала вам хватит SATA на матери, в дальнейшем можете вставить HBA-контроллер и цеплять диски уже к нему.

С железным рейдом вы можете через годик обнаружить себя умоляющим на коленях ТП LSI или другого вендора дать новую прошивочку потестить. Пляшущим с бубном вокруг этого контроллера по ночам (ведь нужно обязательно перезагрузиться, чтобы накатить прошивочку). Есть люди, которые кайфуют от этого и думают, что именно это и есть системное администрирование.
Плюшки контроллеров хороши в рекламных проспектах. В реальности все это работает не совсем всегда... Гораздо надежнее делать все на уровне системы.


"Вопросы по самосборному 'серверу'"
Отправлено DHCPep , 12-Дек-19 22:59 
Спасибо за дельные советы!


"Вопросы по самосборному 'серверу'"
Отправлено Pahanivo , 13-Дек-19 09:24 
> Спасибо за дельные советы!

Дельный совет - не читать дельные советы этого клоуна, как например: менять диски в зеркале по очереди не надо - надо добавить третий диск в зеркало, приколись, да. А потом уже убирать старый.


"Вопросы по самосборному 'серверу'"
Отправлено Аноним , 13-Дек-19 14:25 
>> Спасибо за дельные советы!
> Дельный совет - не читать дельные советы этого клоуна, как например: менять
> диски в зеркале по очереди не надо - надо добавить третий
> диск в зеркало, приколись, да. А потом уже убирать старый.

Типичная ИБД с третьим диском.


"Вопросы по самосборному 'серверу'"
Отправлено Аноним , 13-Дек-19 14:38 
Точнее, это может иметь смысл, если диск меняется хотсвапом и зеркало под серьезной нагрузкой. В этом случае деграднувшее зеркало просядет по ио на чтение, что может быть нехорошо.

Но по условию задачи у нас тут десктопный комп, в котором нет хотсвапа и диски меняются через перезагрузку. То есть, мы гасим комп, меняем диск, грузимся, не монтируя фс и синкаем зеркало. После этого уже перезагружаемся в нормальном режиме. Прыжки с третьим диском в этом сценарии целиком лишние.
Чего не хватает многим админам - так это понимания условий, в которых они работают, неумения выйти за пределы шаблона.


"Вопросы по самосборному 'серверу'"
Отправлено Pahanivo , 13-Дек-19 17:07 
> Но по условию задачи у нас тут десктопный комп, в котором нет
> хотсвапа и диски меняются через перезагрузку.

Это как раз именно тобой придуманное условие.
Интересная дискуссия - придумывать на ходу условия и на них же ссылаться. Профессионально.


"Вопросы по самосборному 'серверу'"
Отправлено Аноним , 13-Дек-19 18:05 
>> Но по условию задачи у нас тут десктопный комп, в котором нет
>> хотсвапа и диски меняются через перезагрузку.
> Это как раз именно тобой придуманное условие.
> Интересная дискуссия - придумывать на ходу условия и на них же ссылаться.
> Профессионально.

Прочитайте пост топикстартера. "Сервер" на райзене с десктопными SSD. Бюджет так мал, что под вопросом покупка второго десктопного SSD для зеркала. Хотсвап при таком бюджете возможен лишь гипотетически.


"Вопросы по самосборному 'серверу'"
Отправлено Licha Morada , 13-Дек-19 20:41 

> Хотсвап при таком бюджете возможен лишь гипотетически.

Да ну, нормальный хотсвап. Снимаешь крышку, оключаешь SATA, потом питание, меняешь диск, подключаешь обратно. Главное, диск не перепутать и пальцами в вентилятор не попасть.


"Вопросы по самосборному 'серверу'"
Отправлено ыы , 13-Дек-19 22:27 
>> Хотсвап при таком бюджете возможен лишь гипотетически.
> Да ну, нормальный хотсвап. Снимаешь крышку, оключаешь SATA, потом питание, меняешь диск,
> подключаешь обратно. Главное......

....не обжечься... "хот" же...


"Вопросы по самосборному 'серверу'"
Отправлено Pahanivo , 14-Дек-19 17:46 
> ....не обжечься... "хот" же...

тут хот скорее от "горячо потрахаться" ))


"Вопросы по самосборному 'серверу'"
Отправлено Licha Morada , 13-Дек-19 20:38 
> Мне необходимо организовать сервер для веб-приложения.
> FreeBSD + lighttpd + PHP + MariaDB + Redis

Рекомендую пересмотреть парадигму.
Запускайте своё приложение в AWS на минимальном инстансе t3.nano, с 0.5GB памяти, 2 CPU и правом их использовать на 5% с брустами. Стоп, у вас там MariaDB которая сразу мег 200 сожрёт, и будет норовить свопиться. Тогда t3.micro, с 1GB памяти и теми-же 2 CPU которые можно грузить уже на 10% с брустами.

Если хоститься в Франкфурте, будет около US$0.30 в день (тридцать центов в день, около 18 рублей). Ну, плюс сторадж. Вы, небось, за интернет на смартфоне больше платите. Когда станет понятна необходимая мощность, считайте, какой сервер надо брать и через сколько пятилеток он окупится. Включая электричество, бесперебойник, интернет и амортизацию пылесоса.

Смотрите на нагрузку на виртуалке в облаке, крутите характеристики туда-сюда, прикидывайте, какая мощность вам на самом деле нужна. По этим требованиям выбирайте сервер. Это если вам ехать. A если шашечки и девчёнок катать, то да, ryzen'а на 8 ядер + 64гб памяти, SSD в зеркале и zfs.

Я вас не столько агитирую перезжать в облако, сколько использовать облако чтобы почти нахаляву откалибровать требования.

Цены и разъяснине про % использование CPU с брустом.
https://aws.amazon.com/ec2/pricing/on-demand/
https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/burstabl...
https://aws.amazon.com/ebs/pricing/

По русски есть только про цены.
https://aws.amazon.com/ru/ec2/pricing/on-demand/?nc1=h_ls
https://aws.amazon.com/ru/ebs/pricing/?nc1=h_ls

На отечественном рынке, скорее всего, есть аналогичные предложения.


"Вопросы по самосборному 'серверу'"
Отправлено ALex_hha , 14-Дек-19 10:08 
Хецнер как вариант. У них там и райзены есть