The OpenNET Project / Index page

[ новости /+++ | форум | wiki | теги | ]

Выпуск кластерной ФС Lustre 2.15

17.06.2022 13:48

Опубликован релиз кластерной файловой системы Lustre 2.15, используемой в большей части крупнейших Linux-кластеров, содержащих десятки тысяч узлов. Ключевыми компонентами Lustre являются серверы обработки и хранения метаданных (MDS), управляющие серверы (MGS), серверы хранения объектов (OSS), хранилище объектов (OST, поддерживается работа поверх ext4 и ZFS) и клиенты. Код проекта распространяется под лицензией GPLv2.

Основные новшества:

  • Реализован режим Client Directory Encryption, позволяющий шифровать имена файлов и каталогов на стороне клиента, на стадии до передачи данных по сети и до сохранения в хранилищах объектов (OST) и метаданных (MDT).
  • Добавлен механизм UDSP (User Defined Selection Policy), позволяющий пользователям определять правила выбора сетевых интерфейсов для передачи данных. Например, при наличии подключения через сети o2ib и tcp можно настроить передачу трафика Lustre только через одну из них, а вторую использовать для других нужд.
  • Обеспечена поддержка сервера для пакета с ядром из состава RHEL 8.5 (4.18.0-348.2.1.el8), а клиентов для немодифицированных ядер RHEL 8.5 (4.18.0-348.2.1.el8), SLES15 SP3 (5.3.18-59.27) и Ubuntu 20.04 (5.4.0-40).


  1. Главная ссылка к новости (https://www.mail-archive.com/l...)
  2. OpenNews: Релиз OpenZFS 2.1 с поддержкой dRAID
  3. OpenNews: Выпуск кластерной ФС Lustre 2.13
  4. OpenNews: Новая версия распределённой файловой системы XtreemFS 1.5
  5. OpenNews: Первый публичный выпуск распределённой файловой системы JuiceFS
  6. OpenNews: Опубликована 59 редакция рейтинга самых высокопроизводительных суперкомпьютеров
Лицензия: CC-BY
Тип: Программы
Короткая ссылка: https://opennet.ru/57369-lustre
Ключевые слова: lustre, cluster
При перепечатке указание ссылки на opennet.ru обязательно


Обсуждение (55) Ajax | 1 уровень | Линейный | +/- | Раскрыть всё | RSS
  • 1.1, Аноним (1), 14:16, 17/06/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • –3 +/
    А почему BTRFS не поддерживается? Слишком клёвая/стабильная или забыли в анонсе?
     
     
  • 2.2, Аноним (2), 14:27, 17/06/2022 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Я вот тоже не понял, линукс и зфс и оксюморон.
     
     
  • 3.6, n00by (ok), 14:49, 17/06/2022 [^] [^^] [^^^] [ответить]  
  • +3 +/
    ZFS же работает в Linux, берите и ставьте. Свободы что ли не хватает? :)
     
     
  • 4.10, Аноним (10), 16:26, 17/06/2022 [^] [^^] [^^^] [ответить]  
  • –2 +/
    Геморроя по впихиванию стороннего кода в ядро избыточно.
     
     
  • 5.25, Аноним (25), 02:58, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Включается одним фагом в конфиге. Ты о чём вообще?
     
     
  • 6.41, Аноним (41), 15:17, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Вот прям вот можно теми пачами пропатчить совсем-совсем любой версии ядро, даже не LTS?
     
     
  • 7.45, n00by (ok), 17:01, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Если не видели предмет в глаза, не смогли даже документацию найти, где написано про dkms, то зачем вообще лезете?
     
  • 7.55, anonymous (??), 17:17, 20/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Можно модулями собрать. Даже патчить ничего не надо.
     
  • 4.42, Аноним (41), 15:21, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Хочу Reiser4. Ну а чё? Условия её существования в Linux точно такие же.
     
     
  • 5.46, n00by (ok), 17:06, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Ну да, "точно" такие же. Я ставил и ZFS, и R4. А кто-то всё хочет. Как в той автономной ОС с вечным "хорошо бы кто-то это сделал за нас".
     
  • 2.4, Аноним (4), 14:31, 17/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Это такой намек что это нестабильное ненужно не нужно.  
     
     
  • 3.8, Аноним (2), 15:00, 17/06/2022 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > Это такой намек что это нестабильное ненужно не нужно.

    ZoneFS не хватит всем.

     
  • 2.9, Аноним (9), 15:41, 17/06/2022 [^] [^^] [^^^] [ответить]  
  • +1 +/
    >  А почему BTRFS не поддерживается? Слишком клёвая/стабильная или забыли в анонсе?

    Есть два варианта: "с тормозами" и "без тормозов".
    ZFS тормозит ничуть не хуже btrfs, а большего от неё и не требуется (в данном контексте применения).

     
  • 2.16, maximnik0 (?), 00:05, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    >А почему BTRFS не поддерживается?

    И будете весь обьем набирать через LVM или OSS/OST ?Не забыли то что raid на BTRFS определенных вариантов только 1,5 года как более менее стабильным стал ? А с стабильностью по прежнему есть проблеммы-к примеру сжатие отвалиться на плохо сжимаемых данных,баг плохо воиспроизводиться и его ловят уже давно.А как же ... (вставить компанию) используют- а так же как Гугл ext4 -горы падчей,не отданных в основную ветку ядра(по слухам в гугловском ext4 даже сжатие есть и упаковка мелких данных в инод.)

     
     
  • 3.43, Аноним (41), 15:28, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    >сжатие отвалиться на плохо сжимаемых данных

    Так, может, это не баг, а фича? Попытка сжатия плохо сжимаемых данных часто приводит к увеличению размера сжатого, по сравнению с исходным.

     
     
  • 4.48, maximnik0 (?), 23:07, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    >Так, может, это не баг, а фича?

    Поясню как работает алгоритм на Btrfs.Если включено сжатие то перед записью пытаеться  блок данных сжать выставленным алгоритмом.После обработки сравниваеться размер- если сжалось то на блок выставляеться флаг сжатый и он записываеться.Если размер не изменился или больше (да бывает и такое) записываеться незжатый блок.Баг состоит в том что часть модуля фс  отвечающие за  сжатие отваливаеться что не должно происходить,т.к это часто приводит к ошибке на ФС.Предпологают из за того что данные плохо сжимаються- а)проблемма где то в железе у юзеров что возможно в связи с антиспектровскими мерами б)Дольше происходит обработка и возникает где то рассинхронизация или утечка памяти.

     
  • 2.17, Аноним (-), 02:21, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Надо знать и понимать, что такое BTRFS. Я использую BTRFS на HDD. Из всех функция BTRFS я пользуюсь сжатие, авто дефрагмитацией и проверками файловой системы на ошибки. https://habr.com/ru/post/476414/
     
     
  • 3.18, Аноним (-), 02:22, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Из всех функция BTRFS
     
     
  • 4.19, Аноним (-), 02:23, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    функциий
     
  • 3.20, Аноним (-), 02:34, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    И это виртуальный диск 16Гб с опер системой. Я для не виртуального диска с опер ситемой использовал  20Г тоже использовал BTRFS, но для доступа к разделу из Win, на рельном разделе перешол на EXT4. Всё на HDD.
     
     
  • 4.21, Аноним (-), 02:44, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    К EXT4 у меня доступ из Win без записи, только чтение и копирование (экспорт).
     
  • 4.22, Аноним (-), 02:47, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    С записью и чтением у мен EXT2 и NTFS.
     
  • 4.26, Аноним (-), 02:59, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • –1 +/
    20ГиБ это раздел а не диск.
     
  • 4.27, Аноним (-), 03:09, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    А для flash USB extfat с пониженым кластером. Размер кластера зависит от задачь.
     
     
  • 5.28, Аноним (-), 03:10, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Или так: с уменьшенным кластером.
     
  • 3.23, Аноним (-), 02:51, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Мой выбор файловых ситем был ограничен тем, что включено в ядро и видят опер системы. Я попробовал и выбрал. ZFS я не пробол в использовании. Сюдя по иписаниям мне ZFS и не нужна.
     
     
  • 4.24, Аноним (-), 02:52, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Судя
     
  • 4.44, Аноним (41), 15:32, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    На локалхосте она 120% ненужна.
     
  • 3.30, maximnik0 (?), 04:18, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    >Надо знать и понимать, что такое BTRFS.

    Я только знаю одно- по прежнему хреново чиниться она и где то совместимость с старой версией сломана.Специально проверял 6 летний проблемный диск с архивом,ошибка коннтрольных сумм.Данные целые,диск только чтение,контольные суммы архивов совподают (есть еще 2 этих архива на других дисках с ext4 с контролльной суммой и данными для востановления-par2),не чем не чиниться,даже сбос контрольной суммы не помогает,утилиты тупо падают.Проверил формат на этом диске-нет block groups ,включал все равно не помогает.Похоже бэкап с данными для востановления-единственный способ ченить эту фс без головного секса.

     
     
  • 4.31, maximnik0 (?), 04:50, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Ошибся при копирование skinny-metadata вместо block groups
     
  • 4.32, Аноним (-), 10:36, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    В году 17 вроде в 2017 в какой-то части планеты Земля в Google датацентр в один день два раза попала молния. Вроде что-то восстановили, а что-то нет. Компьторные системы работающие постояно с огромным количеством информации это хрупкие ситемы. Например раз, и тока нет, что с кеша успело то и записалось. Два, фины влезли у которых в финляндии находятся датацентр Яндекс, сказали всё электричество мы вам постовлять в ваш датацентр не будем в прошлом месяце было. Ладно, в Яндекс запустили дизель генератор или генераторы. https://habr.com/ru/news/t/668142/
     
     
  • 5.33, Аноним (-), 10:36, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Данные на дисках вроде что-то восстановили, а что-то нет.
     
     
  • 6.35, maximnik0 (?), 12:49, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    > Данные на дисках вроде что-то восстановили, а что-то нет.

    Что то странное.По идее катострофоустойчивое хранилище данных должно географически разнесено.Выход 2 из 3 центров не должен приводить к утере информации,и из за этого с востановлением инфы Гугл не заморачиваеться.Как призошел серьезный сбой запускаються резерные стойки и запускаеться процедура автоматического залития с уцелевшей стойки.Как писали специалисты гугла это быстрее чем проверять диски и инфу на ошибки.Видать совсем страшный сбой случился что с этим заморочились.

     
     
  • 7.36, Аноним (-), 13:21, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Подробностей у меня нет я это коротко на радио слышал.
     
     
  • 8.37, Аноним (-), 13:23, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Без подобностей было сказано ... текст свёрнут, показать
     
  • 8.38, Аноним (-), 14:03, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Я уже плохо помню, что было с информацией Логика подсказывает, а смысл это дова... текст свёрнут, показать
     
  • 7.39, Аноним (-), 14:14, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Пишут Не два, а четыре раза подряд и в 2015 году Часть даных востановили чать ... большой текст свёрнут, показать
     
     
  • 8.40, Аноним (-), 14:22, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Несмотря на то, что автоматические вспомогательные системы восстановили нап... большой текст свёрнут, показать
     
  • 4.34, Аноним (-), 10:40, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Ох и много шума от работающего дизель генератора, а если он не один.
     
     
  • 5.51, пох. (?), 22:35, 19/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Не сцы, из Еревана не слышно!

     
  • 2.50, username (??), 10:11, 19/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    А начерта тебе BTRFS? ОС и файловая система выбираются из требований софта, который ты будешь ставить, а не наоборот
     
  • 2.53, Аноним (53), 03:13, 20/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    > А почему BTRFS не поддерживается?

    Ругательное слово потому что.

     

  • 1.3, Аноним (4), 14:30, 17/06/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    На самом деле вот как надо ключевое слово RAIDIX https://habr.com/ru/company/croc/blog/246155/
     
     
  • 2.13, Аноним (53), 17:52, 17/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Лучше бы они дальше грибы ели :)
     
     
  • 3.15, пох. (?), 23:19, 17/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Судя по сумбурности текста и отсутствию хоть какого-то технического правдоподобия - они их есть и не переставали никогда.

    Т.е. чуваки выпилили на коленке то что делает интеловская isa-l (да, я вижу что они додумались в 2008м когда ее еще не было) плюс какой-то непонятного вида непонятно чего менеджмент дисков на непонятном уровне (сами писали драйверы? Хммм... что-то не очень верится.) и взгромоздили поверх непонятный рейд (видимо, имелось в виду ec(7,3) хотя это несколько странное комбо) на неведомых (!) полиномах.

    А потом их купил croc "и вот все об этом человеке".

    Полагаю, надо быть очень смелым и отважным чтобы решиться такое поставить. С кроковской поддержкой в том числе (то есть в первую очередь из-за нее, потому что вряд ли люди умеющие в поля Галуа пойдут в Крок техподдержкой).

     

  • 1.5, Аноним (5), 14:47, 17/06/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    А есть сравнение с HAMMER2?
     
     
  • 2.7, Аноним (7), 14:50, 17/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Сравни и будет.
     
  • 2.11, Аноним (10), 16:29, 17/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    А толку от сравнения? Где вы найдёте кластер сплошь на Стрекозах?
     
  • 2.12, 1 (??), 16:51, 17/06/2022 [^] [^^] [^^^] [ответить]  
  • +1 +/
    портани молоток под линукс и сравним
     
  • 2.29, Аноним (-), 03:23, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    https://www.youtube.com/watch?v=n1BIbSI5vNs
     

  • 1.14, Аноним (14), 20:44, 17/06/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • +2 +/
    Lustre — хорошая блэк-метал-группа. Заслушиваюсь.
     
     
  • 2.47, ананим.orig (?), 20:02, 18/06/2022 [^] [^^] [^^^] [ответить]  
  • +1 +/
    эта фс.
    фолк стрит.
     
  • 2.54, nebularia (ok), 13:06, 20/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Таки это один человек, не группа)
     

  • 1.49, InuYasha (??), 23:57, 18/06/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Как ни спрашивал у "крупняков" - всё какой-то долгострой "мы хотим/собираемся/щупаем", и как-то глухо ) Хотя, знал один ДЦ, где был вариант "люстра собирается", причём, на проде и клиенты ждали этого представления ... долго. ) Жду каментов от поха )
     
     
  • 2.52, пох. (?), 22:37, 19/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Э... про что тебе камменты? Ты себе область применения люстры вообще-то представляешь?

    Оно надо гуглю, гуглю и гуглю. И больше в общем-то никому.

     
     
  • 3.56, InuYasha (??), 14:51, 23/06/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Шизики со своими Ломоносами кринжуют в сторонке )
     
     Добавить комментарий
    Имя:
    E-Mail:
    Текст:



    Спонсоры:
    PostgresPro
    Inferno Solutions
    Hosting by Hoster.ru
    Хостинг:

    Закладки на сайте
    Проследить за страницей
    Created 1996-2022 by Maxim Chirkov
    Добавить, Поддержать, Вебмастеру