https://www.opennet.ru/openforum/vsluhforumID3/36689.html Stuart Midgley адаптировал (http://comments.gmane.org/gmane.comp.file-systems.lustre.user/611) код распределенной файловой системы Lustre (http://www.lustre.org/) для работы в качестве FUSE модуля (https://mail.clusterfs.com/wikis/lustre/fuse) (файловая система работающая на уровне пользовательского процесса), не требующего для своей работы модификации ядра и позволяющего использовать Lustre в системах отличных от Linux (например, под FreeBSD и MacOS X).<br><br>URL: http://comments.gmane.org/gmane.comp.file-systems.lustre.user/611<br>Новость: http://www.opennet.ru/opennews/art.shtml?num=9835<br> https://www.opennet.ru/openforum/vsluhforumID3/36689.html#19 Thu, 15 Feb 2007 09:31:37 GMT А поставил ли кто-нить люстру под БСД, а точнее под ФриБСД?<br>Не получается скомпилить lustre-1.5.97.tar.gz.<br> https://www.opennet.ru/openforum/vsluhforumID3/36689.html#18 Thu, 15 Feb 2007 05:47:57 GMT &gt;&gt;&gt;К сожалению, люстра и бсд несовместимы. <br>&gt;&gt;1. fuse может работать под BSD и под MacOS X. <br>&gt;&gt;2. в свете вылизывания lustre patchless client - есть шанс сделать полноценный <br>&gt;&gt;клиент (пусть и тормозной, для ускорения нужны некоторые правки в VFS <br>&gt;&gt;у fbsd) для BSD взяв за основу MacOS порт. С сервером <br>&gt;&gt;сложнее. <br>&gt;да, меня опять тянет на унификацию =) <br>&gt;а в роадмапе с поддержкой бсд - грустно. <br>думаю будут заказы или интуазисты - будет сделано :) https://www.opennet.ru/openforum/vsluhforumID3/36689.html#17 Thu, 15 Feb 2007 05:34:12 GMT &gt;да, несколько неверно выразил (привычка к hadoop). Речь больше идет об унификации <br>&gt;параллельных oss. Однако в кластерах имеет смысл использовать их же как <br>&gt;вычислительные ноды/клиенты. <br>насколько мне известно в случае lustre такого не делают.<br><br>&gt;&gt;&gt;Обычный принцип действия - работа на уровне блоков: разбитый на блоки файл <br>&gt;&gt;&gt;"размазывается" по нескольким серверам, при его чтении клиент сам собирает блоки <br>&gt;&gt;&gt;в файл. <br>&gt;&gt;Это Google FS & RedHat GFS.. в люстре оперируют понятием объект. <br>&gt;Да, так и есть ) хотя разница не столь катастрофична. <br>достаточно сильная - ибо сказывается на операциях с metadata.<br>в лучае RedHat GFS ты получаешь практически включенный режим sync на файловой системе - что при числе нодов больше 4-8 дикий тормоз.<br><br><br><br> https://www.opennet.ru/openforum/vsluhforumID3/36689.html#16 Wed, 14 Feb 2007 10:30:09 GMT &gt;&gt;К сожалению, люстра и бсд несовместимы. <br>&gt;1. fuse может работать под BSD и под MacOS X. <br>&gt;2. в свете вылизывания lustre patchless client - есть шанс сделать полноценный <br>&gt;клиент (пусть и тормозной, для ускорения нужны некоторые правки в VFS <br>&gt;у fbsd) для BSD взяв за основу MacOS порт. С сервером <br>&gt;сложнее. <br>да, меня опять тянет на унификацию =)<br>а в роадмапе с поддержкой бсд - грустно.<br><br> https://www.opennet.ru/openforum/vsluhforumID3/36689.html#15 Wed, 14 Feb 2007 10:27:55 GMT спасибо за правку <br>&gt;&gt;Кластерных ФС мзвестных негусто - навскидку Lustre, Google FS (+Hadoop), что-то было <br>&gt;&gt;у IBM. <br>&gt;&gt;Отличительная особенность - все участники ФС унифицированы и являются и серверами и <br>&gt;&gt;клиентами ФС (это имеенно особенности реализации, конечно же можно и настроить <br>&gt;&gt;для работы как "несколько серверов - много клиентов", но преимуществ в <br>&gt;&gt;этом случае не получите, скорее наоборот) <br>&gt;помоему ты ошибаешся... <br>да, несколько неверно выразил (привычка к hadoop). Речь больше идет об унификации параллельных oss. Однако в кластерах имеет смысл использовать их же как вычислительные ноды/клиенты.<br>&gt;&gt;Обычный принцип действия - работа на уровне блоков: разбитый на блоки файл <br>&gt;&gt;"размазывается" по нескольким серверам, при его чтении клиент сам собирает блоки <br>&gt;&gt;в файл. <br>&gt;Это Google FS & RedHat GFS.. в люстре оперируют понятием объект. <br>Да, так и есть ) хотя разница не столь катастрофична. <br>&gt;&gt;ФС этого класса очень разные. Lustre заточнена под hiperf вычисления с низкой <br>&gt;&gt;латентностью, пос https://www.opennet.ru/openforum/vsluhforumID3/36689.html#14 Wed, 14 Feb 2007 05:48:07 GMT &gt;К сожалению, люстра и бсд несовместимы. <br>1. fuse может работать под BSD и под MacOS X.<br>2. в свете вылизывания lustre patchless client - есть шанс сделать полноценный клиент (пусть и тормозной, для ускорения нужны некоторые правки в VFS у fbsd) для BSD взяв за основу MacOS порт. С сервером сложнее. https://www.opennet.ru/openforum/vsluhforumID3/36689.html#13 Wed, 14 Feb 2007 05:44:34 GMT <br>&gt;Кластерных ФС мзвестных негусто - навскидку Lustre, Google FS (+Hadoop), что-то было <br>&gt;у IBM. <br>&gt;Отличительная особенность - все участники ФС унифицированы и являются и серверами и <br>&gt;клиентами ФС (это имеенно особенности реализации, конечно же можно и настроить <br>&gt;для работы как "несколько серверов - много клиентов", но преимуществ в <br>&gt;этом случае не получите, скорее наоборот) <br>помоему ты ошибаешся...<br><br>&gt;Обычный принцип действия - работа на уровне блоков: разбитый на блоки файл <br>&gt;"размазывается" по нескольким серверам, при его чтении клиент сам собирает блоки <br>&gt;в файл. <br>Это Google FS & RedHat GFS.. в люстре оперируют понятием объект.<br><br>&gt;ФС этого класса очень разные. Lustre заточнена под hiperf вычисления с низкой <br>&gt;латентностью, посему пользуют что-нить типа InfiniBand и нестандартные MPI. Люстра замонтированая <br>&gt;представляет из себя слегка урезaную ext3. <br>ext3 был только для 2.4 ядер, для 2.6 используется ldiskfs которая значительно ближе к ext4.<br><br><br>&gt;Также есть shared storage FS - эти нужны https://www.opennet.ru/openforum/vsluhforumID3/36689.html#12 Wed, 14 Feb 2007 01:45:53 GMT К сожалению, люстра и бсд несовместимы.<br>Вообще, был отличный отзыв о продакшн использовании именно в веб-проекте, под статику (несколько десятков нодов)<br>Советую самостоятельно оттестировать<br><br>а GFarm говорит так:<br>The major difference from the<br>Grid Datafarm architecture is that Lustre separates file sys-<br>tem nodes from clients (or compute nodes). This reflects<br>the fact that Lustre assumes an operating environment of<br>large clusters and intra-enterprise high bandwidth connec-<br>tivity, where moving data to computation makes sense, in<br>contrast to Gfarm where data may reside distributedly in<br>wide area, making exploitation of local high bandwidth by<br>moving computation to data essential.<br><br>то бишь gfarm изначально позиционирует себя для таковой модели использования:<br>есть много данных, распределенных по нодам,<br>нужно их все параллельно обработать. В случае люстры и подобных - compute node сначала фетчит себе данные из кластерной фс, обрабатывает и возвращает обратно (отсюда требования к пропускной способн https://www.opennet.ru/openforum/vsluhforumID3/36689.html#11 Wed, 14 Feb 2007 00:20:06 GMT AFS не совсем сюда - не той породы.<br>Lustre - кластерная ФС<br>AFS - сетевая ФС.<br><br>Если подробнее - то AFS относится примерно к тому классу, в котором сидят NFS, SMB, и win2K3 DFS. Основная их задача - качественный доступ к различным (раскиданным по сети) ресурсам, с соблюдением блокировок и напором на контроль доступа и централизованное управление. Здесь четко прослеживается модель "клиент-сервер" - большинство участников сетовой ФС являются клиентами, а под шары выделяются чаще отдельные серваки. С точки зрения производительности для такой ФС критериями являются пропускная способность сервер-клиент и количество поддерживаемых коннектов. Масштабируется такая ФС вертикально - более шустрым железом. Надежность тоже поддерживается на уровнях ниже сетевой ФС (RAID, репликация средствами ОС и администратором 24/7 на мобильном =)<br><br>Кластерных ФС мзвестных негусто - навскидку Lustre, Google FS (+Hadoop), что-то было у IBM.<br>Отличительная особенность - все участники ФС унифицированы и являются и серверами и клиентам