URL: https://www.opennet.ru/cgi-bin/openforum/vsluhboard.cgi
Форум: vsluhforumID13
Нить номер: 835
[ Назад ]

Исходное сообщение
"Файловое хранилище"

Отправлено PashaTurok , 05-Фев-13 12:48 
Подскажите пожалуйста качественное и БЕЗОПАСНОЕ (как с точки зрения доступа так и целостности данных) решение. Есть 3 сервера на каждом 8 дисков.

1. Возможно ли объединить все дисковое пространство всех серверов в одно большое файловое пространство для работы с самбой? - чтобы у нас было не три диска самбы - по одному на каждый сервер (+LVM), а один диск. Смысл конечно заключается в том, чтобы вначале заполнялись полностью диски первого сервера, потом второго и т.п.

2. Какие есть решения, чтобы один мастер сервер сам выбирал нужный сервер и нужный диск исходя из размера записываемого файла и свободного места на диске и т.п. То есть, чтобы пользователь даже не знал, где размещается файл.

Хотелось бы конечно проверенные временем и бесплатные решения. Я понимаю, что в интернете много, но что используется больше всего на практике?


Содержание

Сообщения в этом обсуждении
"Файловое хранилище"
Отправлено fantom , 05-Фев-13 13:12 
>[оверквотинг удален]
> целостности данных) решение. Есть 3 сервера на каждом 8 дисков.
> 1. Возможно ли объединить все дисковое пространство всех серверов в одно большое
> файловое пространство для работы с самбой? - чтобы у нас было
> не три диска самбы - по одному на каждый сервер (+LVM),
> а один диск. Смысл конечно заключается в том, чтобы вначале заполнялись
> полностью диски первого сервера, потом второго и т.п.
> 2. Какие есть решения, чтобы один мастер сервер сам выбирал нужный сервер
> и нужный диск исходя из размера записываемого файла и свободного места
> на диске и т.п. То есть, чтобы пользователь даже не знал,
> где размещается файл.

Решений море, от scsi over IP(Eth) до распределенных файловых систем

http://ru.wikipedia.org/wiki/Список_файловых_систем#.D0.A0.D0.B0.D1.81.D0.BF.D1.80.D0.B5.D0.B4.D0.B5.D0.BB.D1.91.D0.BD.D0.BD.D1.8B.D0.B5_.D1.84.D0.B0.D0.B9.D0.BB.D0.BE.D0.B2.D1.8B.D0.B5_.D1.81.D0.B8.D1.81.D1.82.D0.B5.D0.BC.D1.8B

http://habrahabr.ru/post/133987/


"Файловое хранилище"
Отправлено pavlinux , 05-Фев-13 15:09 
> Хотелось бы конечно проверенные временем

iSCSI

> и бесплатные решения.

Рейд из NBD


"Файловое хранилище"
Отправлено PashaTurok , 05-Фев-13 16:32 
>> Хотелось бы конечно проверенные временем
> iSCSI
>> и бесплатные решения.
> Рейд из NBD

Спасибо за участие! Но как я понял iSCSI дает в общий доступ определенный диск. Смотрел тут -http://metalcandy.ru/how-to-forge-centos/557-centos-install-...
Или я не правильно понял. Задача-то заключается в том, чтобы сделать единое пространство всех дисков и серверов.То есть выбрать самую стабильную распределенную файловую систему - как я понимаю.


"Файловое хранилище"
Отправлено pavlinux , 05-Фев-13 18:59 
> ... как я понял iSCSI дает в общий доступ определенный диск.

Да, и на основной машине собираешь всё в кучу. (RAID0)

---
Распределенная ФС нужна когда из нескольких мест нужен доступ в общую кучу.
Не, ну как вариант можно использовать, только у них оверхед больше чем у iSCSI или NBD


"Файловое хранилище"
Отправлено PashaTurok , 05-Фев-13 20:49 
>> ... как я понял iSCSI дает в общий доступ определенный диск.
> Да, и на основной машине собираешь всё в кучу. (RAID0)
> ---
> Распределенная ФС нужна когда из нескольких мест нужен доступ в общую кучу.
> Не, ну как вариант можно использовать, только у них оверхед больше чем
> у iSCSI или NBD

Хм. Здесь http://social.technet.microsoft.com/Forums/en/winserverfiles... пишут что это все не очень надежно. А если какой-то сервер выпадет из массива? Вы использовали такое решение?


"Файловое хранилище"
Отправлено pavlinux , 06-Фев-13 04:50 
>>> ... как я понял iSCSI дает в общий доступ определенный диск.
>> Да, и на основной машине собираешь всё в кучу. (RAID0)
>> ---
>> Распределенная ФС нужна когда из нескольких мест нужен доступ в общую кучу.
>> Не, ну как вариант можно использовать, только у них оверхед больше чем
>> у iSCSI или NBD
> Хм. Здесь http://social.technet.microsoft.com/Forums/en/winserverfiles... пишут что это все не очень надежно.

Дык там же венда.  

> А если какой-то сервер выпадет из массива?

В состав такого рейда обязательно должен входить локальный диск. Лучше сделать RAID5.
Везде настроенный QoS, дабы иметь гарантированную полосу при любой загрузке сети.

Оборудование должно быть не просто хорошим, а очень хорошим.
Сетевушки не меньше Intel 1000MT (лучше оптику), провода STP (S/FTP) 6/7 cat.,
всё заземлено, плотные штекеры RJ-45, по проводам народ ходить не должен,
везде бесперебойники хотя бы на 15 минут жизни.

> Вы использовали такое решение?

О да, причём на USB-флешках. :D

---
Купи какой нить полубытовой NAS, типа Synology или QNAP, чесслово дешевле обойдётся.
На бесперебойниках, правильной витой паре и сетевухах сэкономишь. :)


"Файловое хранилище"
Отправлено fantom , 16-Май-18 21:08 
>> ... как я понял iSCSI дает в общий доступ определенный диск.

Неправильно!!! файл тоже можно как диск скормить iSCSI...

> Да, и на основной машине собираешь всё в кучу. (RAID0)

Бред... и при каждом сбое в сети получать рассыпавшийся массив????

> ---
> Распределенная ФС нужна когда из нескольких мест нужен доступ в общую кучу.

Это только ОДНА из ее плюшек.

> Не, ну как вариант можно использовать, только у них оверхед больше чем
> у iSCSI или NBD


"Файловое хранилище"
Отправлено Mr. Mistoffelees , 08-Фев-13 17:53 
Привет,

> Хотелось бы конечно проверенные временем и бесплатные решения. Я понимаю, что в
> интернете много, но что используется больше всего на практике?

FreeNAS смотрели? Может, подойдет вам.

Из более умных решений мне лично нравится как работает GridFS.

WWell,


"Файловое хранилище"
Отправлено lbcom , 09-Фев-13 02:30 
Купите 4U или 3U сервер +определится с рэйром(железный или нет) и вставьте в него все ваши диски.


>[оверквотинг удален]
> файловое пространство для работы с самбой? - чтобы у нас было
> не три диска самбы - по одному на каждый сервер (+LVM),
> а один диск. Смысл конечно заключается в том, чтобы вначале заполнялись
> полностью диски первого сервера, потом второго и т.п.
> 2. Какие есть решения, чтобы один мастер сервер сам выбирал нужный сервер
> и нужный диск исходя из размера записываемого файла и свободного места
> на диске и т.п. То есть, чтобы пользователь даже не знал,
> где размещается файл.
> Хотелось бы конечно проверенные временем и бесплатные решения. Я понимаю, что в
> интернете много, но что используется больше всего на практике?


"Файловое хранилище"
Отправлено lbcom , 09-Фев-13 02:35 
Купите 4U или 3U сервер + определиться с рэйром(железный или нет) и вставьте в него все ваши диски. И экономия и надежность побольше, чем с трех разных машин.

>[оверквотинг удален]
> файловое пространство для работы с самбой? - чтобы у нас было
> не три диска самбы - по одному на каждый сервер (+LVM),
> а один диск. Смысл конечно заключается в том, чтобы вначале заполнялись
> полностью диски первого сервера, потом второго и т.п.
> 2. Какие есть решения, чтобы один мастер сервер сам выбирал нужный сервер
> и нужный диск исходя из размера записываемого файла и свободного места
> на диске и т.п. То есть, чтобы пользователь даже не знал,
> где размещается файл.
> Хотелось бы конечно проверенные временем и бесплатные решения. Я понимаю, что в
> интернете много, но что используется больше всего на практике?


"Файловое хранилище"
Отправлено stre10k , 11-Июл-13 23:31 
GlusterFS

Диски на серверах в рейд, по 2 тома на сервер, тома в гластер на 2 реплики и 3 страйпа.
GlusterFS помоему сам по самбе умеет раздавать.

по поводу 1 пункта, лучше чтобы диски заполнялись на всех серверах равномерно, для производительности.


"Файловое хранилище"
Отправлено Alex , 05-Июл-16 00:02 
> GlusterFS

Смотрю в интернете. Падучий? Не отказоустойчивый?

Тоже интересуюсь этой темой.
Вариант с 4U для меня не подходит. Так как 4U могут кончится и что дальше?
Надо всегда иметь возможность нарищиваться.
Быть отказоустойчивыми к отключению питания, кабеля лан, падению одного или нескольких 4U, самих дисков.

Что посоветуете?
Чем пользуются Яндекс и гугле? Со своими пентабайтами...
Ну на худой конец, чем пользутся хостеры?


"Файловое хранилище"
Отправлено ziplex , 24-Авг-18 10:37 
Посмотрите в сторону Ceph на BlueStore как вариант