The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

Linux Foundation представил Kinetic, подключаемые через Ethernet самодостаточные хранилища

24.08.2015 14:08

На конференции LinuxCon представлен новый совместный проект Kinetic Open Storage Project (KOSP), в рамках которого под эгидой организации Linux Foundation будет развиваться новый интерфейс доступа к устройствам хранения, существенно упрощающий создание хранилищ и избавляющий от необходимости запуска отдельных серверов хранения. Среди учредителей проекта выступили такие компании, как Seagate, Toshiba и Western Digital, Cisco, Dell, Huawei, NetApp и Red Hat.

Основной особенностью Kinetic является возможность прямого доступа к накопителю, подключенному через сеть Ethernet (доступ к API производится по TCP), без привлечения промежуточных серверов хранения. Содержимое дисков доступно в форме БД, предоставляющей средства для работы в формате ключ/значение. Кроме того, предусмотрена возможность использования Kinetic-дисков в составе SNS-хранилищ (Software-defined storage). Таким образом, Kinetic определяет самодостаточные накопители, пригодные для обособленного использования в качестве минисерверов хранения, к которым приложения могут обращаться напрямую по сети.

Кроме протокола, проект предоставляет набор открытых библиотек с реализацией API (С, С++, Java, Python, OCaml), плагин для интеграции с хранилищем объектов OpenStack Swift, утилиты для управления Kinetic-накопителями и симулятор, позволяющий протестировать работу системы до появления совместимых с Kinetic дисков.

Связывание с диском производится при помощи специального ключа аутентификации, привязанного к пользователю. Для управление доступом предусмотрен механизм ACL, описывающий привилегии каждого пользователя. При начальном подключении накопителя для настройки применяется пользователь по умолчанию, который в процессе настройки заменяется.

Для обнаружения и управления дисками может использоваться как специальный набор утилит, так и REST API, предоставляющие такие функции как поиск, проверка доступности, тестирование накопителя, управление доступом, контролем целостности, миграции данных между дисками в кластере, управления кластером из нескольких дисков и т.п. Обмен данными с диском может производиться с использованием защищённого канала связи.

Из достоинств представленного в Kinetic подхода отмечается снижение затрат на инфраструктуру и экономия энергопотребления за счёт исключения необходимости создания отдельных серверов хранения; разделение компонентов хранения и вычисления в центрах обработки данных; улучшение масштабируемости хранилищ (при необходимости расширения хранилища достаточно подключать через Ethernet новые стойки с накопителями).

  1. Главная ссылка к новости (http://www.linuxfoundation.org...)
Лицензия: CC BY 3.0
Короткая ссылка: https://opennet.ru/42846-kinetic
Ключевые слова: kinetic, starage
При перепечатке указание ссылки на opennet.ru обязательно


Обсуждение (42) Ajax | 1 уровень | Линейный | +/- | Раскрыть всё | RSS
  • 1.2, Аноним (2), 14:54, 24/08/2015 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Неплохо, неплохо. Как же раньше до такого не додумались?
     
     
  • 2.3, Аноним (-), 14:58, 24/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    не нужно было, сети были медленными, процессоры большими.
     
     
  • 3.4, Аноним (-), 15:22, 24/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    Что-то изменилось? Скорость обычных дисков уже уперлась в гигабитный эзернет.
    Упрощение за счет чего они предполагают достигать? Если питание будет по poe, тогда будет всего 1 шнурок - хорошо. Свич с таким мощным пое питанием будет дорог. В каждом диске свои мозги, цены бешенные - плохо. Диски могут видеть друг груга напрямую и не требовать крутого ПО для реализации некоторых фич - хорошо. Совместимость дисков и их ПО между собой под вопросом.
    По сути, вставили nas в диск.
     
     
  • 4.5, test (??), 15:30, 24/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    железо уже давно есть. В статье речь о програмном решении

    http://www.seagate.com/ru/ru/products/enterprise-servers-storage/nearline-sto

     
     
  • 5.7, Аноним (-), 15:46, 24/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    даже называется почему-то так же.

    http://www.seagate.com/gb/en/products/enterprise-servers-storage/nearline-sto

     
  • 4.6, BlackRaven86 (ok), 15:46, 24/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    > По сути, вставили nas в диск.

    Это называется SAN :)

     
  • 4.10, badmilkman (ok), 16:22, 24/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    Теперь у NASов будет не 3 чипа (Ethernet-котроллер/процессор/контроллер диска) а 1, совмещающий все функции.
    Если не ошибаюсь, у Seagate уже существуют диски с Ethernet-подключением
     
  • 4.13, Аноним (-), 16:35, 24/08/2015 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Диски могут видеть друг груга напрямую и не требовать крутого ПО для реализации некоторых фич - хорошо

    Это наоборот, плохо. Ещё одна ниша DDoS в сети, пусть даже и специальной. Сделать настолько умной железку чтобы она могла как-то кооперироваться с другими крайне трудно. А для дисков и не нужно.

     
  • 4.15, Stax (ok), 17:03, 24/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    > Что-то изменилось? Скорость обычных дисков уже уперлась в гигабитный эзернет.

    Ну во-первых, можно взять 10ГБ. Во-вторых, это для доступа через swift или хранилищ типа hadoop, там пропускная способность конкретного модуля не так важна, данные размазываются по многим и считываются по кусочкам - суммарно получается быстро. А с конкретного диска гигабита хватает.

    > В каждом диске свои мозги, цены бешенные - плохо

    Хмм (смотря на цены современных IoT модулей) - да по-моему примерно одна фигня, что ethernet, что sata-контроллер на диск поставить.

     
     
  • 5.18, Аноним (-), 20:24, 24/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    > Хмм (смотря на цены современных IoT модулей) - да по-моему примерно одна фигня, что ethernet, что sata-контроллер на диск поставить.

    И упереться в PCi-e bus speed.

     
     
  • 6.29, Stax (ok), 13:38, 25/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    Где именно?
    Нет никакого общего места, через которое текут данные. В том же hadoop: много нодов, в каждой по несколько дисков, десятки Гб ОЗУ и сетевой интерфейс (в новой концепции Kinetic диски отдельно). Несколько служб, принимающих решения о том, где что находится и откуда читать/куда писать конкретный кусок данных. Дальше зависит от использования, напр. map запускается прямо на нодах, где данные локально. Для hbase приложения постоянно узнают, с каким сервером им работать для данного конкретно куска данных и делают запросы к конечному серверу, а он берет данные локально. Диски, сеть, шины загружены как возможно равномерно. Ну не совсем, конечно, но явных узких мест нет, если только руками не делать что-нибудь странное.

    Аналогично в других технологиях, для которых применим Kinetic. Я так понимаю, он призван решать задачу, когда новые ноды ставить не хочется (дорого, большее тепловыделение, некуда и т.д.), а больше ввода-вывода нужно, а дисков в ноды больше не вставить (скажем, по 4 диска на ноду и они уже стоят). И это способ добавить большую пачку дисков к нодам и раздать каждой еще по 2 диска, скажем. Другого способа нет: нельзя поставить мега-ноду о 40 дисках (она загнется и вообще будет работать сильно хуже, чем более дешевые 5 нод по 4 диска на каждой), нельзя поставить SAN о 40 дисках и раздать с него диски на разные ноды (все упрется в его шины или интерфейс подключения). А с Kinetic - без проблем, общая пропускная способность даже гигабитных свитчей огромная, а лишний ethernet-порт в каждой ноде вполне может найтись.

     
     
  • 7.40, Аноним (-), 00:56, 27/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    > И это способ добавить большую пачку дисков к нодам и раздать каждой еще по 2 диска, скажем.

    Вы бы пресс релиз почитали бы что ли? Нет там диска в привычном виде.. НЕТУ. есть key<>value таблица.


    > Другого способа нет: нельзя поставить мега-ноду о 40 дисках (она загнется и вообще будет работать сильно хуже, чем более дешевые 5 нод по 4 диска на каждой),

    Бред. 82 диска живут и не жужат. 9Gbyte/s с дисковой полки. И занимают места меньше чем ваши дешевые 5 нод по 4 диска. А за место в датацентрах тоже платить надо.. И электричества жрут в разы меньше чем ваши "дешевые" ноды. Видимо наши клиенты не на столько богаты, что бы покупать дешевые вещи.

    > А с Kinetic - без проблем, общая пропускная способность даже гигабитных свитчей огромная, а лишний ethernet-порт в каждой ноде вполне может найтись.

    Да да. Щааас. Не разу не видели перегруженый свич? а я не раз.  Кроме того стоит учитывать латентность Eth 1G.


    PS. оригинальный комент был о втыкании доп. SATA контролеров в ноду - где легко упереться в PCI-e speed.

     

  • 1.9, IdeaFix (?), 15:59, 24/08/2015 [ответить] [﹢﹢﹢] [ · · · ]  
  • –2 +/
    ATAOE уже было....
     
     
  • 2.11, badmilkman (ok), 16:24, 24/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    Здесь более высокий уровень абстракции

     
     
  • 3.14, Аноним (-), 16:55, 24/08/2015 [^] [^^] [^^^] [ответить]  
  • +5 +/
    ..который уже есть больше десятка лет и называется iSCSI.
     
     
  • 4.17, serg1224 (ok), 20:21, 24/08/2015 [^] [^^] [^^^] [ответить]  
  • +4 +/
    >..который уже есть больше десятка лет и называется iSCSI

    Ну скоро JavaScript припаяют, чтоб в тренде, так сказать... и Гугло-Хромо-зонду удобней было добираться.

    Больше обёрток, красивых и разных! На скорость дисков нам плевать! Все ж уж на SSD давно!

     
     
  • 5.20, rob pike (?), 23:58, 24/08/2015 [^] [^^] [^^^] [ответить]  
  • +3 +/
    > A famous aphorism of David Wheeler goes: "All problems in computer science can be solved by another level of indirection", this is often deliberately mis-quoted with "abstraction layer" substituted for "level of indirection". Kevlin Henney's corollary to this is, "except for the problem of too many layers of indirection."
     
     
  • 6.30, count0krsk (ok), 14:39, 25/08/2015 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Золотые слова!
    А ещё есть такое высказывание, что "лазер - решение проблем, которые ещё не существуют". Так может, того, лазером поправить криволинейность рук тем, кто много сущностей плодит, да и всё ))
     
  • 5.43, Аноним (-), 16:09, 28/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    >>..который уже есть больше десятка лет и называется iSCSI
    > Ну скоро JavaScript припаяют, чтоб в тренде, так сказать... и Гугло-Хромо-зонду удобней
    > было добираться.
    > Больше обёрток, красивых и разных! На скорость дисков нам плевать! Все ж
    > уж на SSD давно!

    да кстати, как только ЭТО массово начнет продаваться, то обязательно запилят поверх ЭТОГО сетевую фс. вот увидите ;)

     
  • 4.25, Аноним (25), 11:56, 25/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    еще более высокий ...
     

  • 1.12, Аноним (-), 16:32, 24/08/2015 [ответить] [﹢﹢﹢] [ · · · ]  
  • –6 +/
    > Связывание с диском производится при помощи специального ключа аутентификации, привязанного к пользователю. Для управление доступом предусмотрен механизм ACL, описывающий привилегии каждого пользователя.

    Совсем головой тронулись. Мастдай спешит на помощь с цифромыми подписями так, что только авторизованные им производители смогут генерировать такие ключи.

     
     
  • 2.16, Аноним (-), 18:25, 24/08/2015 [^] [^^] [^^^] [ответить]  
  • +6 +/
    >> Связывание с диском производится при помощи специального ключа аутентификации, привязанного к пользователю. Для управление доступом предусмотрен механизм ACL, описывающий привилегии каждого пользователя.
    > Совсем головой тронулись. Мастдай спешит на помощь с цифромыми подписями так, что
    > только авторизованные им производители смогут генерировать такие ключи.

    совсем не в тему приплёл

     

  • 1.19, EHLO (?), 22:31, 24/08/2015 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Гугл прочитал мои мысли и на запрос https://encrypted.google.com/search?q=kinetic нашел: "ВЕЛОСИПЕДЫ KINETIC".
     
  • 1.21, Аноним (-), 01:25, 25/08/2015 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Это какой-то аналог S3 и хранилища selectel. Жутко неудобные штуки для хранения файлов.
     
  • 1.22, J.L. (?), 01:34, 25/08/2015 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    а на устройствах будет ddrwrt или corebios ? кто баги в прошивке то править будет ?
    баги в фирмвари винчестера можно хотяб как-то править каким-нить линуксом, а много вы обновлений прошивок для винтов видели ? а в течении 5 лет ?
     
     
  • 2.31, count0krsk (ok), 14:42, 25/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    > а на устройствах будет ddrwrt или corebios ? кто баги в прошивке
    > то править будет ?
    > баги в фирмвари винчестера можно хотяб как-то править каким-нить линуксом, а много
    > вы обновлений прошивок для винтов видели ? а в течении 5
    > лет ?

    В отдельный влан их и молиться ))

     

  • 1.23, Аноним (-), 03:33, 25/08/2015 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    я в смятении( kinetic это что типа iSCSI или как?
     
     
  • 2.27, Александр (??), 12:32, 25/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    > я в смятении( kinetic это что типа iSCSI или как?

    Нет это ни разу не iSCSI - низкоуровневый проокол (Механизм инкапсуляции SCSI команд в IP сети.)
    Kinetic - высокоуровневый протокол. Не нужно никаких драйверов для носителей, медиа провайдеров, драйверов файловых систем для доступа к данным.
    По сути это работа с неряляционными базами данных типа 1:1 (ключ:значение) с функцией поддержки NS ключей и ACL.

    Т.е. с точки зрения User Space:
    1. не будет кучи накладных расходов из-за VFS/FS/DRIVERS.
    2. очень легко масштабировать, дублировать, вируализировать.
    3. нет привязки системы хранения к OS.
    4. нет привязки системы хранения к носителю.

    Судя по текущему описанию протокола есть маленькое неудобство в связи с ограничением размера атомарной единицы пересылки, но это наверняка скрыто в API (т.е. в реализации библиотек для User Space).

    Из недостатков можно перечислить:
    1. Отсутствие MMAP доступа.
    2. Невозможность низкоуровневой оптимизации.
    3. latency доступа к данным зависит от внешних условий.
    4. Скорость доступа к данным зависит от внешних условий.
    5. Уязвимость к DOS/DDOS, и хороший источник DOS/DDOS.

     
     
  • 3.42, Птолемейсхородойнаперевес (?), 01:45, 28/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    Всё шикарно, только одно но: kv и есть вариант реляционного отношения двух множеств k и v - та же 1NF с уникальными значениями в первом столбце. Т.е. я бы похерил слово "нереляционными" из вашего поста.
     

  • 1.24, Аноним (-), 03:34, 25/08/2015 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    что-то я совсем уже отстал от всех новинок(
     
  • 1.26, Зенитарка (?), 12:20, 25/08/2015 [ответить] [﹢﹢﹢] [ · · · ]  
  • +2 +/
    Слава Western Digital! Их HDD работают по 10 лет и они помогают Linux Foundation! Не зря я всю жизнь поддерживаю их замечательные и надежные HDD.
     
     
  • 2.32, count0krsk (ok), 14:44, 25/08/2015 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > Слава Western Digital!

    Героям сала! )) А мне как-то больше сигейты и самсунг по душе. Сигейты где нужно побыстрее, самсунги - где потише.


     
     
  • 3.34, Аноним (-), 16:21, 25/08/2015 [^] [^^] [^^^] [ответить]  
  • +1 +/
    небось каждый год меняешь старый драндулет на последний Q7, сдавая корпуса от трупов сигейтов в цветмет
     

  • 1.28, правдоруб (?), 12:52, 25/08/2015 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Кстати, бывают ли системы ключ/значение с зеркалированием блоков в стиле btrfs/zfs? Поверх такой штуки можно бы было сделать отказоустойчивую ФС.
     
  • 1.33, count0krsk (ok), 14:47, 25/08/2015 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    Ну, как появится на рынке - посмотрим на цену. И как с этим работать я пока не представляю. Нельзя же просто сказать mount 192.168.1.21 ))
     
     
  • 2.35, Stax (ok), 16:56, 25/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    Нельзя. Можно согласно API отправлять запросы "запиши такой-то блок по адресу (ключу) такому-то" и "верни блок по адресу (ключу)".
     
     
  • 3.38, count0krsk (ok), 20:46, 25/08/2015 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > Нельзя. Можно согласно API отправлять запросы "запиши такой-то блок по адресу (ключу)
    > такому-то" и "верни блок по адресу (ключу)".

    Может поэтому у них в спецификации на сайте указана максимальная скорость записи 60 МБ/c. Печаль... Какова минимальная даже и думать не хочется. У меня по сети с 2Тб на 1Тб ноутбучный выдаёт до 700-800 Мбит/c на длинке и встроенных сетевухах, а тут Максимум 480 заявили.

     
  • 3.44, torvn77 (ok), 21:49, 29/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    Это что же, будет реинкарнация диска C:\?
     

  • 1.36, Аноним (-), 18:30, 25/08/2015 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    На них Зюхель в суд не подаст из-за использования слова "Kinetic" ? ;)
     
     
  • 2.39, Аноним (-), 10:06, 26/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    ты зухелевое название вообще в глаза видел?
     

  • 1.37, Аноним (-), 18:56, 25/08/2015 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    Аппаратная Cassandra получается) а кластеризация присутствует?
     
     
  • 2.41, seyko (??), 07:09, 27/08/2015 [^] [^^] [^^^] [ответить]  
  • +/
    > Аппаратная Cassandra получается) а кластеризация присутствует

    А диски и сейчас работают с базой в виде пары <номер блока> <его данные>. Теперь предлагается считать хеш входной строки и выдавать блок переменной длинны (строку). Так что Так что просим новые диски поработать с нынешней парой число-блок и считаем потери в производительности и ёмкости.

    PS: там в новости нет оценки указанных потерь?

     

     Добавить комментарий
    Имя:
    E-Mail:
    Текст:



    Партнёры:
    PostgresPro
    Inferno Solutions
    Hosting by Hoster.ru
    Хостинг:

    Закладки на сайте
    Проследить за страницей
    Created 1996-2024 by Maxim Chirkov
    Добавить, Поддержать, Вебмастеру