Компания Canonical объявила о готовности инструментария MicroCloud, позволяющего быстро развёртывать на своём оборудовании вычислительные кластеры и облачные системы с общим распределённым хранилищем данных и защищённой виртуальной сетью. Инструментарий оформлен в виде snap-пакета, включающего компоненты, необходимые для управление работой узлов кластера. Коммерческая техническая поддержка решений на базе MicroCloud предоставляется в рамках сервиса Ubuntu Pro, но те, кто может обойтись без поддержки, могут использовать инструментарий без ограничений. Наработки проекта написаны на языке Go и распространяются под лицензией AGPL 3.0...Подробнее: https://www.opennet.ru/opennews/art.shtml?num=60137
Годнота
> до 50 узловПотестить что-то на маленьком секйле, разве что.
А "микро" в названии, по твоему, просто так? Или у тебя всё микро на практике?
Это всего льшь отказоустойчевое хранилище. Вопрос есть ли гарантировано отказоустойчивость сервиса развёрнутого на кластере. Виртуализация контейнеры, разве что для удобства администрирования.Тема кластеров проработана очень узко: хранение данных и отказоустойчивость предоставляемого сервиса.
Нет реализации кластера единого системного образа, - объединение узлов кластера в единый компьютер с общимы процессорами о оперативкой, для приложения доступны все процессоры кластера. Форк может мигрировать на другой узел кластера и возвращать результат вычислений абсолютно прозрачно для приложений, ничего ненадо переписывать. Удобно для перекодировки видео, архивации, проверка антивирусом большого файла, ...
Есть спец кластеры MPI для распаралеливания работы программы, но здесь надо как минимум пересобрать приложения с использованием MPI, как максимум переписать.
C SSI - много концептуальных нрпоняток. Например, как реализовать clone()? Можете для интереса покурить документацию проприетарного mosix, где разрабы сделали полностью юзерспейсный почти-линукс, с возможностью SSI, запускаемый поверх линукса.
Свободных решений, типа OpenMosix - уже нет, телефорки, Kerrighed и прочие - не дотягивают, возникает проблема шареного хранилища(NFS иногда даже подходит). Даже mosix - и тот не все бинари запускает.
То есть, нет возможности объединить ресурсы нескольких компов для запуска немодифицированного бинаря. А с такими полумерами - можно и на MPI посмотреть, который тоже - полумера.
> C SSI - много концептуальных нрпоняток. Например, как реализовать clone()? Можете для интереса покурить документацию проприетарного mosix, где разрабы сделали полностью юзерспейсный почти-линукс, с возможностью SSI, запускаемый поверх линукса.В OpenMosix у меня форк процесса и POSIX потоки мигрируют на другие ноды. Всё работает без переписывания ПО! Тяжёлые форки мигрируют. Исходники валяются для Linux-2.4 (без с-групс и нейм-спейсес). Всё проги которые форкают дочерные процессы будут работать на нодах кластера:
Архиваторы:
pbzip2 -pN
pzstd -p N
pigz -p N
xz -T N
plzip -n N
lzma -T NПерекодировка видео:
Другие тяжёлые форки:
clamd (поток проверяющий файл на вирусы)Интересная модель была у DragonFlyBSD у них кластер SSI из каробки через виртуализацию ядра, возможность ядру запускать другое ядро как процесс.
> А с такими полумерами - можно и на MPI посмотреть
В MPI надо переписывать софт.
Интересно посмотреть GCC с опциями:
-fopenacc
-fopenmp
-pthreads
будет ли мигрировать они в OpenMosix на другие ноды.
Еще FragVisor интересен, но не доходят руки пощупать :)
Причём тут кластер процессов? Как это связано с темой?
Canoncal выпустила еще одну детскую поделку. Такой закос под энтерпрайз на индийский манер: тяп-ляп и "кластер" без хлопот.
Это не энтерпрайз, это типикал девляпс подход.И скорее всего целевая ниша все же - я у мамы альтернативно одаренный разработчик, не хочу тестировать в общей куче, там много непонятных букв, хочу на локалхосте - лучше прямо на макбучеке.
Но они ж зараза потестируют и потом потребуют чтоб ты в проде такого же точно поднял и ни малейших чтоб отклонений, им некогда документацию, и дома у них всеработало.
> И скорее всего целевая ниша все же - я у мамы альтернативно одаренный разработчик, не хочу тестировать в общей куче, там много непонятных букв, хочу на локалхосте - лучше прямо на макбучеке.Нахуа? Docker desktop (который стоит у 100% разработчиков на макбуках) позволяет запустить локальный кластер кубика (который стоит на 99% продовых кластеров, с учётом 1% на специфичные HPC решения).
Какой смысл привязываться к вендорлоченой технологии, несовместимой с де-факто стандартом?
> Нахуа? Docker desktop (который стоит у 100% разработчиков на макбуках) позволяет запустить
> локальный кластер кубикаэ... ну если у тебя на проде оно ТАКОЕ - то тебе конечно не позавидуешь.
> Какой смысл привязываться к вендорлоченой технологии
там нет ничего вендорлоченого - они просто ставят microk8s поверх этой штуки и живут себе счастливенько как на большом проде.
Без всякого докера (чур меня, чур).
> э... ну если у тебя на проде оно ТАКОЕ - то тебе конечно не позавидуешь.Сейчас почти у всех в IT на проде кубик, и ничего, живём.
Есть, конечно, исключения - шаред-хостинги с апачом (обычно 1.3) и proftpd, всякие банки с коболом, ну и gopher-серверы энтузиастов юниксвея. Но вот как раз все перечисленным лично я абсолютно не завидую.> там нет ничего вендорлоченого - они просто ставят microk8s поверх этой штуки и живут себе счастливенько как на большом проде.
Возникает один небольшой вопрос - а нафига нужна такая ЖИРНЮЩАЯ прослойка, если можно запустить кубик в minikube или kind?
В любом случае, если вместо компа у разработчика мак, то прослойка в виде линуксовой виртуалки обязательна (ну не умеет макось в нормальные контейнеры).
> Возникает один небольшой вопрос - а нафига нужна такая ЖИРНЮЩАЯ прослойка,Вот тот самый прод и имитировать - где и ceph, и оверлейная сетка и еще хз что. Причем - не умея все это настра...скопипастить из вопросов на стековерфлове, даже не дочитав ответа. Ну или некогда, некогда, галера замедлила ход.
Ну во всяком случае хотя бы приблизительно реалистичный сценарий.Что это живьем вот такое кто-то будет использовать - ну могу поверить но лучше бы заранее подальше отойти.
> Вот тот самый прод и имитировать - где и ceph, и оверлейная сетка и еще хз что.У продового кубика, если и будет ceph, то явно другой. Либо внутренний через rook, либо внешний через cephadm. Но вообще обычно там просто подключают дисковую полку через NFS или iSCSI provisioner (который у каждого вендора полок свой), либо, если бюджет полку не позволяет - piraeus или linstor (куда более быстрые и дубовые, чем ceph).
Не говоря уже о том, что у кубика своя оверлейная сетка (причём дофига реализаций на выбор), так что гонять оверлей поверх оверлея смысла вообще никакого.
> У продового кубика, если и будет ceph, то явно другой.его настраивать кто-то должен. А тут - все искаропки только не совсем работает. Ну, точнее - если не нагружать то наверное и работает, чего бы ему не.
nfs сегодня немодно (да и в общем уже не стоит).
С сеткой все то же самое - это для тех кто не умеет в сети.
Ну разбирайся в опенстеке, запрещают чтоли?
Там у тебя хлопот будет нормальное количество, кстати.
> Ну разбирайся в опенстеке, запрещают чтоли?
> Там у тебя хлопот будет нормальное количество, кстати.да не нужно ни на кого свои детские травмы проецировать:*(
> Ну разбирайся в опенстеке, запрещают чтоли?конечно. У тебя паспорт не той страны, хрен тебе а не опенстек.
А в какой стране запрещают с опенстеком разбираться?
Наверное, он попутал с OpenShift (судя по его репликам в этом обсуждении, в кластерных технологиях он не очень разбирается), а у того есть проприетарная версия (OCP), которую во многие страны не продают.
> Наверное, он попутал с OpenShiftзапомни чтоб не перепутать - у этого как раз все просто с "разобраться", в отличие от openstack. Любой девляпс сможет.
Зато вот "open" оно примерно в том смысле что слово opennet.А с openstack - наоборот.
> проприетарная версия (OCP), которую во многие страны не продают.
эммм... ладно, не буду огорчать. Продолжай думать что разбираешься.
Не, ну если ты собираешься потратить жизнь на самостоятельное изучение, или наоборот, тебе достаточно копипасты из вопросов со стековерфлова - то так можешь в любой "разбираться". Глядишь, вся жизнь и пройдет.А если чего другое - то более-менее человекочитаемая (и в ограниченные сроки, что немаловажно для этой бесконечной этажерки каждый день новых технологий) документация есть только у редхата, заботливо прикрытая от тебя под пэйвол.
> Не, ну если ты собираешься потратить жизнь на самостоятельное изучение, или наоборот,
> тебе достаточно копипасты из вопросов со стековерфлова - то так можешь
> в любой "разбираться". Глядишь, вся жизнь и пройдет.
> А если чего другое - то более-менее человекочитаемая (и в ограниченные сроки,
> что немаловажно для этой бесконечной этажерки каждый день новых технологий) документация
> есть только у редхата, заботливо прикрытая от тебя под пэйвол.Ты бы не позорился с "заботливо прикрытой документацией"
https://access.redhat.com/documentation/en-us/red_hat_openst...
Хламота, есть proxmox.
прох мох на 3 летнем дебиане? не нужно
apt update && apt upgrade сделай и будет у тебя свежий Proxmox
Казалось бы, зачем тащить snap если оно написано на go?
А Го то за что ?
Go годный язык, не понимаю хейта.
Вероятно же, что хейт не в сторону Go, а в сторону snap. Можно было с тем же успехом раздать бинарник на Go.По всей видимости канониклы не нашли лучшего решения для распространения снапов за пределы убунты, чем вот это вот
Они начали с Firefox. Жалкая попытка. Впихнули его в своё говноподелие и теперь интернет пестрит инструкциями как го оттуда выпихнуть. Чем больше они будут туда впихивать, тем меньше пользователей у них останется, что даже лучше — мир Linux держится на разнообразии. Начиная с 20.04 сам посматриваю в сторону Arch, ибо убунта уже не та.
Ты лучше Федору попробуй. Хороший и стабильный дистрибутив с минимально модифицированными компонентами, быстро обновляемыми репозиториями и великолепной документацией.
> Хороший и стабильный дистрибутив с минимально модифицированными компонентами, быстро обновляемыми репозиториями и великолепной документацией.Сказали "Федора", а описание - от Арча.
> Хороший и стабильный
> описание - от Арча.Где-то тут cyициднулacь логика...
Выражения "стабильный", "минималистичный", "дружественный к пользователю", "нетребовательный к ресурсам" и им подобные уже лет десять как стали баззвордами, которые можно лепить на всё подряд.В том числе и усилиями фанатов космонавта, когда первую неделю после релиза переключатель раскладки вешает всю систему, а эти ребята рассказывают, что "всё стабильно".
+1, сам с бубунты перевёл все десктопы на Деб из-за этих снапов.
Ну, мы серваки по тому же пути перевели пару лет назад. Во-первых, было понятно, что на браузерах они не остановятся, и будут переводить в snap вообще весь софт. Во-вторых, раздражают эти зонды, например, при каждом логине в системе отправляется инфа на серваки каноникла (хук в dynamic motd).
> Впихнули его в своё говноподелие и теперь интернет пестрит инструкциями как го оттуда выпихнуть.А при чем Go то???
Это просто язык програмирования, такой же как С/С++, - компилятор в нативный бинарный код, на которых можно написать зонд, а можно и годноту
При том, что go позволяет относительно легко собирать бинарники с минимум зависимостей (обычно только от libc), а также вообще статически (в мире сишки многие библиотеки быстро охладят пыл подобных попыток).
Соответственно, таскать вместе с бинарником chroot системы, будь то snap или docker, становится необязательно. В отличие от c, java, php, python и прочих, которым для запуска обычно нужен рантайм с кучей библиотек/модулей.
> При том, что go позволяет относительно легко собирать бинарники с минимум зависимостей (обычно только от libc), а также вообще статическиСпасибо за ликбез, но я думаю я довольно неплохо знаю Го ;)
> (в мире сишки многие библиотеки быстро охладят пыл подобных попыток).
Да Го фиолетово на с-шные либы, он сам независим от них и большинсво народу старается переписать на Го то, чего нет с стандартной библиотеке, поэтому скорее Го охладит гидру зависимостей, а не они его
Имеено поэтому и спросил - "А Го - за что выпихивать?"
> java, php, python
Ну, этих друзей тоже можно в статику превратить
Друг, вам не кажется что вы хвалите Го, а народ его хэйтит и даже оказывается имеет море хав-ту как оттуда его "выпихнуть", (я одно только понять не могу, каким надо быть "умным", чтоб искать инструкция то удалению одно единственного, скомпилированного файла... но это другая история).
Поэтому я так и не нашел в вашем опусе ответа - почему Го кому то поперек глотки встал ?
не могли бы: lxd, microceph, microcloud и microovn
это у них - снапы, каждый отдельно. Из них их собственный "бинарник на игого" и вероятно тоже не один - только третий.И в принципе логично - потому что наверняка там собрано с наираспоследними версиями всего, как у модных девляпсов и принято. А в системе - другие, поскольку она стандартная (и причем две разных что заслуга именно снапа. Нет, никуда "за пределы" они не собираются. Обе - убунты.)
Так что не вижу ничего неправильного, дорогие белки-истерички. Убунта вполне довольна своим снапом как технологией изоляции корявых модносовременных приложений и использует его по назначению.
Претензии предъявляйте разработчикам, неспособным в совместимость.
Это потому, что Вы не пишете на Си
как ты и большинство местных икспердов - только на плохом русском
> Это потому, что Вы не пишете на СиТроль, - покажи личико
И вот когда оно первый раз развалится - вот тогда-то вам и понадобится та самая платная поддержка, потому что без вёдерной клизмы там чёрт ногу сломит.
> Конфигурация кластера может быть сохранена в формате YAMLнахрена тебе поддержка?
Всегда же ж можно быстренько переустановить!
Сказал админ Hadoop после того, как у него развалился кластер с 40 нодами на десятки петабайт. Бугога!
> Сказал админ Hadoop после того, как у него развалился кластер с 40
> нодами на десятки петабайт. Бугога!ну тебе чо написано:
MicroCloud, инструментарий для быстрого развёртывания кластеров
Быстрого развертывания (свернется оно шамо). А вовсе не долгой и счастливой жизни.
Знать как оно устроено и хотя бы примерно с какого конца начинать выяснять что отвалилось - не дело быстрообучаемых, и вообще некогда, деплой давай!
И да, вопрос именно "когда".
Потому что конструкция где ceph крутится прямо на тех же хостах где сервис - я уж молчу что и наверняка все его демоны в куче - это просто вот антипаттерн который наверное даже в документации отражен, что так делать нельзя никому и низачем.
Не уверен, что даже их поддержка сможет такое починить.
Одну команду кое как скопипастят теперь из гугл и в прод девопсы с зарплатами 300к наносек
Круче - теперь и копипастить не надо, убунта все за них сделала и в нескучный бинарничек на игого затолкала. next,next,ok, и можно попивать клубничный смузи.А когда навернется - ну разведешь ручками - мы ж кластер-шмастер, мы ж изоляция, мы ж огого и игого - надежность по нашим оценкам превышает 100%... а оно... вотъ...
Чем ты разведешь тебе же написали для быстрого развертывания. Никто и не заметит как ты быстренько все заново развернул.
И конфигурация, вот-с, в ямл! Все, некогда, некогда, я побежал внедрять!
Go, Snap... Ф топку, в общем.Ждём дальше, когда кто-то предложит решение искаропки на базе kvm\qemu виртуализации с удобным GUI и отказоустойчивой кластеризацией.
так lxd именно kvm
Настолько тупо, что даже не смешно.
трудно без юмора то
> Ждём дальше, когда кто-то предложит решение искаропки на базе kvm\qemu виртуализации с удобным GUI и отказоустойчивой кластеризацией.ovirt же.
Вместо контейнеров нужно UML и QEMU без KVM использовать. Безопасней будет.
Вопрос знатокам: оно на 100-мегабитной сетке работать будет?
> Вопрос знатокам: оно на 100-мегабитной сетке работать будет?можешь считать что нет
Если тебе поиграть в девляпса - просто поставь штук пять в виртуалки.
А, хотя, да, откуда у тебя виртуалки с 100мегабитной сеткой, в твоем P-III...А больше оно, собственно, ни для чего и не нужно - что ты там делать собрался-то?
Печаллль.. Вот вы сейчас опечалили человека.
не ну может у него просто свитч с помойки, а так-то кора дуба... в теории там до 16G, пять штук виртуалок - ну как-то взлетят, на чисто посмотреть на чудо враждебной технологии можно.Хотя, опять же, на что смотреть - непонятно. Общедоступного софта для k8s по-моему не существует в принципе, это сплошь какие-то копоративные поделки для сугубо внутреннего пользования.
> Общедоступного софта для k8s по-моему не существует в принципе, это сплошь какие-то копоративные поделки для сугубо внутреннего пользования.Что, простите?
ничего такого что ты, васян, мог бы запустить у себя, даже просто на посмотреть.
Вы точно говорите именно про софт для кубика?
Позвольте уточнить - для запуска в кубике или для его развёртывания?
(Хотя, конечно, в обоих случаях общедоступного софта дофига.)
Именно для разверывания - тебе каноникал выкатила. Можно прямо на локалхосте, и я даже начинаю думать что именно для них и предназначено. Две кнопки нажал и вот, почти настоящее облачко.А вот что там можно было бы запустить - без понятия. Делаемое для людей, логичненько, не требует кластеров и мильена подов.
> Именно для разверывания - тебе каноникал выкатила.Спасибо, но нет. Зачем мне лишняя прослойка, которая добавляет сложности и тормозов?
> Можно прямо на локалхосте, и я даже начинаю думать что именно для них и предназначено. Две кнопки нажал и вот, почти настоящее облачко.
Эта ниша уже давно занята. Docker desktop, Rancher desktop, Minikube, kind, k3d, тысячи их, на любой вкус и цвет.
даблин, причем тут твой дыркердрисктоп - в нем есть сторадж? А вычислительный кластер?Вот эта хрень - для этого. Когда на один макбук либо не умещается либо надо проверить как оно вообще работает когда не один.
Нет, ты можешь все это себе настраивать по отдельности вручную (кстати, тоже нет, не совсем)
Будет, нормально будет работать. Canonical переизобрел proxmox.
Там кластер, это не супер компьютер. Это оболочка для запуска виртуалок и контейнеров. Там нельзя задействовать несколько процессоров с разных нод для решения одной задачи.Цеф может крутиться отдельно отдавать nfs, smb, и т.д. а узлы могут на этом запускать контейнеры и виртуалки. Можно отдать smb с винды и запустить на ней виртуалки в кластере, как эксперимент, это работает.
Кластер отслеживает доступность и связность этих оболочек на узлах для управления и позволяет делать миграции контейнеров и виртуалок с одного узла на другой.
> Там кластер,там ceph. Который на задержках стомегабитного линка и пнях три даже и не тестировался никогда. (у коры дуба сетевухи были уже гигабитные)
Нет, это не оболочка для запуска виртуалок, ничего общего с проксчмоксей не имеет.
(которая тоже не то чтобы будет работать если использовать именно ее ceph вместо просто локального стораджа без всяких кластеров)> Цеф может крутиться отдельно
он и должен быть отдельно, но не в убунтиной поделке (и не проксмоксиной, ту специально для того и брали чтоб сэкономить а потом ой я в домике). Та специально сделана все кучей, чтоб не думать а головой только есть. И ее назначение скорее всего именно запустить дома под столом посмотреть как оно у больших потом будет работать - но не на пне три же ж.
> Кластер отслеживает доступность и связность этих оболочек на узлах для управления и позволяет
> делать миграции контейнеров и виртуалок с одного узла на другой.нет. Не все что содержит пару знакомых тебе слов после запуска тобой проксмокся на локалхосте является проксмоксей.
Здесь кластер - для linear scale-out а не для миграций. Предполагается что тебе есть, что. А вовсе не еще одну винду в виртуалочке.
А откуда у вас таке сетки?
а в чем проблема? У меня этого гуталина - как будто бабушка на гуталиновой фабрике работает.
Что с ним делать - неизвестно, выкинуть - жалко.
Клон kubernetes от canonical под AGPL 3.0 - это ровно то, что нам всем сейчас нужно, большое спасибо.
Не клон, а дополнительная прослойка. Которая даёт возможность в итоге запустить поверх неё урезанную версию кубика (microk8s).
В принципе, можно в пару движений запустить локальный кластер кубика minikube/kind/k3d, но тогда слишком просто получится, да и canonical не у дел останется.
>Snap
>LXD
>OVNОчень актуальный набор технологий, прям очень.
И цефом ещё сверху приправлено.
> Наработки проекта написаны на языке Go и распространяются под лицензией AGPL 3.0.ЯП и лицензия тоже.
Две из трёх технологий точно их собственные, плюс у них появляется возможность распространять это поделие и на Ubuntu Core.Но выглядит... Так себе, я б такое в прод не потащил... :((
Иногда смотришь на какой проект - вот такие вот кластеры, контейнеры, микросервисы, сдн, сдс, оркестрация, десяток разных локаций в амазонах, все дела - ну просто гений инженерной мысли.А сунешься внуть - и понимаешь, что всё это вполне полезло бы в обычный ненавязчивый SQL с репликацией на двух платформах и монолитный сервис на стольки же в придачу, куда меньшими костами и без каких-либо потерь. Просто горка девляпса стабильно рождает грызунов.
> А сунешься внуть - и понимаешь, что всё это вполне полезло бы
> в обычный ненавязчивый SQL с репликацией на двух платформах и монолитный
> сервис на стольки же в придачу, куда меньшими костами и безИ чо - мне вместо "охрестрация, кластеры, десяток локаций" - в отчет твой sql писать?!
Да мне зарплату не то что не прибавят, а урежут.К счастью, стая модных современных разработчиков гарантирует мне защиту от подобного несчастья.
Вот главное чтоб никто из них эту хрень ненароком с помойки не притащил.
А потом смотришь на деньги и понимаешь, что четыре бокса в датацентре с SQL и какими-то самописанными монолитами это полная лажа. Добавлять ёмкость долго и дорого, скейлиться вниз до нуля невозможно вообще, скопировать прод вот тут рядышком, чтобы попробовать что-то потенциально опасное тоже не получится, зато времени на организацию репликации SQL и решение недифференцирующих задач было потрачено столько, что конкуренты с «девляпсами» давно успели и рынок поделить, и в кэш с него выйти. Такой вот CAPEX/OPEX.
Тут вопрос жизненного цикла, да. Если у вас через год выйти в кеш и забить - резонно.
А иначе OPEX'ы набегут такие, что конкуренты позавидуют - так самоубиваться не всякий может.
Эти хацкерские наколенные решения хороши только под маленькие масштабы и если надо сделать фиксированное решение раз и навсегда, и забыть про его кишки, без поддержки, без расширения. Чем больше масштаба, ынтерпрайза и коммерции, тем больше этот ваш гнойный девляпс выигрывает со всех сторон. Претензии есть скорее к тому, как и какими инструментами сейчас предлагается весь этот девляпс делать - такие вещи как "шаблоны ямл для генерации шаблонов ямл для генерации шаблонов ямл" как стандартный вокфлоу это явно что-то нездоровое.
Другого девляпса у меня для вас нет.
Если этот девляпс не продавали под видом годноты, то было бы в мире лучше.
MicroCEPH там специальный, который жрёт гораздо меньше чем обычный CEPH, особенно при ребилде?
нано такой
Обёртка на обёртке поверх обёртке от программистов из Каноникла. Не верю и боюсь. И качество и поддержку.