The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



"Первый публичный выпуск распределённой файловой системы JuiceFS"
Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Изначальное сообщение [ Отслеживать ]

"Первый публичный выпуск распределённой файловой системы JuiceFS"  +/
Сообщение от opennews (?), 13-Янв-21, 18:11 
После четырёх лет разработки компания Juicedata, созданная при поддержке двух крупных китайских венчурных фондов, опубликовала первый публичный выпуск POSIX-совместимой распределённой файловой системы JuiceFS, которая может быть развёрнута поверх СУБД Redis или хранилищ объектов, поддерживающих API  Amazon S3. JuiceFS развивается как промежуточное решение, позволяющее упростить адаптацию любых приложений для работы в облачной инфраструктуре, благодаря возможности работать с хранилищами объектов как с традиционными ФС. Код проекта написан на языке Go и распространяется под лицензией AGPLv3...

Подробнее: https://www.opennet.ru/opennews/art.shtml?num=54396

Ответить | Правка | Cообщить модератору

Оглавление

Сообщения [Сортировка по ответам | RSS]

1. Сообщение от Иваня (?), 13-Янв-21, 18:11   –6 +/
Круто, надо поизучать. На гошечке отлично делать распределенные системы!
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #3, #39, #60

2. Сообщение от _ (??), 13-Янв-21, 18:16   –7 +/
Go fast! Go - blazing fast! ;-)
Это вам не ржавчина какая :-р
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #13, #48, #76

3. Сообщение от Аноним (3), 13-Янв-21, 18:19   +2 +/
Новость дальше слова "go" ты походу и не прочитал))
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #4

4. Сообщение от Аноним (3), 13-Янв-21, 18:20   +4 +/
(то, что до него, походу, тоже)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #3 Ответы: #35

5. Сообщение от Аноним (5), 13-Янв-21, 18:34   +1 +/
Реально ли применить для хранения данных пользователей и бэкапов объёмом >300 Тб? И как там отказоустойчивость?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #10, #11, #28, #40, #61

6. Сообщение от Аноним (5), 13-Янв-21, 18:35   +/
Это что-то типа IBM GPFS?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #14, #36, #66

8. Сообщение от rvs2016 (ok), 13-Янв-21, 18:58   –2 +/
> Каждый файл разбивается на логические цепочки размером 64 МБ

А файловые системы размером меньше 64 МБ создавать нельзя? 😲

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #26, #37

10. Сообщение от Онаним (?), 13-Янв-21, 19:10   +5 +/
Я бы на этом ничего, кроме рецептов смузи, хранить не рискнул.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5

11. Сообщение от Аноним (11), 13-Янв-21, 19:19   +5 +/
Его нереально применить для хранения. Это прокси до хранилищ перечисленных на картинке
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5

12. Сообщение от Аноним (13), 13-Янв-21, 19:32   –2 +/
наконец-то годноту подвезли.
Ответить | Правка | Наверх | Cообщить модератору

13. Сообщение от Аноним (13), 13-Янв-21, 19:34   –7 +/
Если сРаст такой хороший язык почему на нём не написали такую простую штуку как распределенная файловая система?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2 Ответы: #17, #19

14. Сообщение от бублички (?), 13-Янв-21, 19:40   +2 +/
нет, это абсолютная новинка на основе концепции Vaseline FS
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6 Ответы: #44

17. Сообщение от Аноним (17), 13-Янв-21, 20:22   –2 +/
на расте пытались написать недоось - но в ней память потекла :)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #13 Ответы: #20, #33

19. Сообщение от заминированный тапок (ok), 13-Янв-21, 20:23   +3 +/
им пока не до новых разработок, сильно заняты пока что переписыванием существующих решений с C/C++
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #13 Ответы: #30

20. Сообщение от YetAnotherOnanym (ok), 13-Янв-21, 20:23   +14 +/
Прям представляю, прамять такая: Ой, девочкиии, какой языыык... Я потекла...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #17

21. Сообщение от YetAnotherOnanym (ok), 13-Янв-21, 20:25   +/
Хммм... Интересно, как она с LeoFS будет?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #25

25. Сообщение от Аноним (25), 13-Янв-21, 21:04   –1 +/
Вот протестируй и отпишись, как оно будет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21

26. Сообщение от Аноним (-), 13-Янв-21, 21:05   –1 +/
Это опенсорс, детка! Здесь все можно. Бери и создавай. ;)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8 Ответы: #38

28. Сообщение от Аноним (28), 13-Янв-21, 21:07   +/
Реально. Разрешаю.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5

30. Сообщение от Аноним (17), 13-Янв-21, 21:12   +/
ясно, понятно, просто переставляют койки...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #19

33. Сообщение от Аноним (-), 13-Янв-21, 21:22   +3 +/
> на расте пытались написать недоось - но в ней память потекла :)

Разоблачения от опеннетных профессианналов, только сегодня, смотреть далее ...


Ответить | Правка | Наверх | Cообщить модератору
Родитель: #17 Ответы: #52

35. Сообщение от Атон (?), 13-Янв-21, 21:48   –2 +/
GOoogle
GOspel
GOvernment


удобно.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

36. Сообщение от Атон (?), 13-Янв-21, 21:52   +/
здесь все метаданные в одной БД.

в GPFS не так.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6

37. Сообщение от Атон (?), 13-Янв-21, 21:53   +1 +/
а смысл?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8

38. Сообщение от rvs2016 (ok), 13-Янв-21, 22:06   –1 +/
> Это опенсорс, детка! Здесь все можно. Бери и создавай. ;)

Понял. Нельзя. Да и не сильно-то было надо. Вопрос-то был не из практической плоскости, а из академической. :-)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #26

39. Сообщение от Аноним (39), 13-Янв-21, 22:07   –1 +/
vlang наше все. го ущербен
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #57

40. Сообщение от Аноним (40), 13-Янв-21, 22:37   +/
Разоришься амазону башлять… Впрочем, твой дело.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5

42. Сообщение от Сяду на лицо (?), 13-Янв-21, 23:43   –5 +/
Фс поверх фс которая поверх другой фс и так до бесконечности... да уж линукс во всей красе((( даже винда сейчас смотрится как нечто органичное и структурированное по сравнению с этим балаганом
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #45

44. Сообщение от Сяду на лицо (?), 13-Янв-21, 23:46   +/
Васянов огорчает твой коммент
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14

45. Сообщение от Онаним (?), 14-Янв-21, 00:16   +/
В винде прямо из коробки идёт подобное же рукалицо.
Дропбокс называется.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #42 Ответы: #46

46. Сообщение от Сяду на лицо (?), 14-Янв-21, 00:32   –1 +/
Дропбокс это овеолей поверх оверлея??? Там просто эмуляция WebDAV/REST, типа FUSE, а не FUSE поверх FUSE которая поверх S3 который поверх FUSE который размазан поверх Lustre и все это поверх FUSE которая поверх GlusterFS которая тоже поверх FUSE
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #45 Ответы: #56

48. Сообщение от _ (??), 14-Янв-21, 03:31   +3 +/
На Rust уже есть https://github.com/openebs/Mayastor , который по функционалу уже близок к CEPH)
Сам он ФС не предоставляет, только объектное и блочное хранилище, однако эту задачу решает NFS/любая другая ФС работающая поверх объектного хранилища (Та же JuiceFS подойдёт :D)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2 Ответы: #51

49. Сообщение от анонимно (?), 14-Янв-21, 04:47   –1 +/
Написана вроде интересная штука да ещё и под копилефт.
Количество хейтеров на опеннете прибавилось )
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #62

50. Сообщение от Аноним (52), 14-Янв-21, 05:46   +/
Ну тут все понятно, дохлый проект непонятно для чего. Client Core это single машина а после уже клиентам раздаем по smd или nfs, а я то уже обрадовался что появилась замена cephfs когда все клиенты из кластера смогу смонтировать и не угробить файлы.
Ответить | Правка | Наверх | Cообщить модератору

51. Сообщение от Аноним (52), 14-Янв-21, 05:50   –4 +/
А как ты будеш кластеризовать сам nfs? Это не говоря о том что сама nfs это лютейшее говно.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #48 Ответы: #58, #69

52. Сообщение от Аноним (52), 14-Янв-21, 05:52   –1 +/
Но и опровергнуть ты не смог...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #33 Ответы: #55, #87

53. Сообщение от Аноньимъ (ok), 14-Янв-21, 05:58   +/
Я в новости про фс в вкладках браузера предложил устанавливать туда браузер.

И вот собственно мою идею развили и реализовали.

Ответить | Правка | Наверх | Cообщить модератору

54. Сообщение от Аноним (52), 14-Янв-21, 06:01   +/
https://juicefs.com/pricing - это говори о проекте все, удачи вам с этим васяно уг...
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #67

55. Сообщение от Аноним (55), 14-Янв-21, 06:23   +3 +/
> Но и опровергнуть ты не смог...

Зачем опровергать очередной бред?
чайник_рассела.жпг


Ответить | Правка | Наверх | Cообщить модератору
Родитель: #52

56. Сообщение от Онаним (?), 14-Янв-21, 09:48   +/
Внезапно:
1. API файловой системы -> ядерная поддержка FS -> юзерспейсный драйвер FS дропбокса
То есть первый оверлей ("FUSE") есть.
2. API дропбокса - HTTPS, то есть и второй слой имеется, "FUSE" поверх HTTPS
3. Сам дропбокс внутри - всё тот же блочный сторейдж по типу S3, просто часть, делающая возможность работать с файлами - выкинута в API дропбокса

То есть в итоге - почти точно такое же овнище, вид в профиль, за исключением того, что конверсия в блочный сторейдж на стороне сервера выполняется.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #46 Ответы: #63

57. Сообщение от Аноним (57), 14-Янв-21, 11:16   +/
Оно еще живое?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #39 Ответы: #59

58. Сообщение от Аноним (58), 14-Янв-21, 12:30   –1 +/
мисье не в курсе о pNFS и NFS v 4.2 ?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #51 Ответы: #75

59. Сообщение от pda (?), 14-Янв-21, 12:37   +1 +/
V? Да, причём автор пилит его с такой скоростью, будто реально решил всех вытеснить. :)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #57

60. Сообщение от adolfus (ok), 14-Янв-21, 13:23   +/
В связи с последними событиями с долинковкой малвари в орион с помощью специальной версии msbuild облакам хана. Своя собственная физическая инфраструктура дешевле в разы обходится, а то и на порядок.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #82

61. Сообщение от Аноним (61), 14-Янв-21, 15:23   +/
Отказоустойчивое 0.022 цента за гигабайт только за хранение в месяц. Это приблизительно почти 7к долларов в месяц. И трафик скачать 1 гигабайт стоит 0.09 центов.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5

62. Сообщение от Аноним (61), 14-Янв-21, 15:25   +/
Платное уг не нужное.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #49

63. Сообщение от Ульта (?), 14-Янв-21, 15:34   +/
Только описываемый тобой костыль дропбокса не на одной системе пашет, тобишь эмуляция прозрачной ФС с трансляцией в API бокса это обычный FUSE, а S3 или че он там использует это его сервер сайд, по факту имеем один FUSE

Оверлей поверх оверлея это когда одна эмуляция поверх другой эмуляции... и где то в конце нечто приближенное с реальной ФС, как в этом смузипроджекте

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #56 Ответы: #70, #71

64. Сообщение от Анонимленьлогиниться (?), 14-Янв-21, 16:53   +/
Хмм. Интересно, ждем когда будет работать поверх Swift. Т.к. у многих cloud провайдеров его используют. Технически там-то конечно S3 шлюз есть, но подобные жесткие сервисы обычно не работают корректно, т.к. поведение eventual consistency отличается от того, который в AWS. А если речь про использование в AWS.. Так нафига вообще козе баян? Есть же CASFS+ (https://casfs.com/documentation/casfs/casfs-white-paper/#cas... уже.
Ответить | Правка | Наверх | Cообщить модератору

65. Сообщение от Ульта (?), 14-Янв-21, 17:08   +2 +/
pNFS наше все, в ж0пу костыли запихать всем любителям системда
Ответить | Правка | Наверх | Cообщить модератору

66. Сообщение от Ульта (?), 14-Янв-21, 17:15   +/
GPFS это DFS, а эта подделка работает поверх различных DFS от годных типа GPFS, pNFS, Lustre, Ceph до смузиподобных GlusterFS и прочих FUSE like
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6

67. Сообщение от borbacuca (ok), 14-Янв-21, 17:46   +/
дыкжеж венчурные фонды!
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #54

68. Сообщение от PnD (??), 14-Янв-21, 18:20   +/
Оп. Метаданные в реди́се. Но без них же данные превратятся в лапшу? Или нет?
Может, я чего пропустил и редис выпустил систему с гарантиями? Да нет, всё так же:
"Redis is an open source (BSD licensed), in-memory data structure store, used as a database, cache, and message broker."

Ну, что же. Видимо, гм, основные цели носили не технический характер.

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #79, #85

69. Сообщение от _ (??), 14-Янв-21, 19:02   +/
> Это не говоря о том что сама nfs это лютейшее говно.

1. Я и указал что NFS это не единственный вариант
2. Можно ли услышать аргументацию про NFS? Поддерживаю кластер 120 нод, много чего гоняется по NFS, за 3 года проблем не видел (Кроме тех что были вызваны кривыми руками)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #51 Ответы: #78

70. Сообщение от Онаним (?), 14-Янв-21, 19:04   +/
По факту имеем FUSE и дальше костылинг поверх HTTP.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #63

71. Сообщение от Онаним (?), 14-Янв-21, 19:05   +/
(не забывай, что от "FUSE" до дропбокса - ещё его кривой API)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #63 Ответы: #74

74. Сообщение от Ульта (?), 14-Янв-21, 21:08   +/
FUSE собственно и реализует прослойку между кривым API и ядром ОС, дабы у хомячка все была НАТИВНО
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #71 Ответы: #77

75. Сообщение от Ульта (?), 14-Янв-21, 21:10   +/
Он видать на SunOS NFS3 еще гоняет
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #58

76. Сообщение от Ульта (?), 14-Янв-21, 21:11   +1 +/
Шо раст шо го одно г0вно
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2

77. Сообщение от Онаним (?), 14-Янв-21, 21:46   +/
А дальше идёт прослойка в виде хытытыпы под прослойкой в виде ссл к прослойке в виде WebAPI.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #74 Ответы: #81

78. Сообщение от _ (??), 14-Янв-21, 22:11   +/
3.14159265 - do - ball ? :-)))))
NFS - suks, no doubt. Problem is - there is noting really better :(
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #69

79. Сообщение от Аноним (79), 15-Янв-21, 06:49   +/
Тот же вопрос у меня.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #68

81. Сообщение от Ульта (?), 15-Янв-21, 17:16   +/
FUSE это и есть прослойка
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #77

82. Сообщение от мяя (?), 15-Янв-21, 18:05   +/
О чём речь не подскажете?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #60 Ответы: #84

84. Сообщение от adolfus (ok), 15-Янв-21, 23:36   +/
Релиз Solar Wind Orion собирался на сервере сборки специально изготовленным msbuild, чтобы скрыть следы линковки с левыми объектными модулями. А чтобы на микрософт не подумали, то якобы "взлом" инфраструктуры Solar Wind затронул и их.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #82 Ответы: #86

85. Сообщение от ОхотникНаОленей (?), 16-Янв-21, 06:02   +/
Ну редис флашить состояние на диск умеет, как минимум для перезапуска машины. Плюс сохранность обеспечивает избыточность узлов.

А без избыточности узлов и hdd без raid - не надёжен.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #68

86. Сообщение от Аноним (86), 16-Янв-21, 07:15   +/
Читайте первоисточники и не несите дичь. Исходники подменялись малварью во время сборки и восстанавливались после. Msbuild был самый обычный.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #84

87. Сообщение от Ordu (ok), 16-Янв-21, 08:47   +1 +/
Ты слишком толст, чтобы тебя кто-нибудь опровергал. Тоньше быть надо.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #52


Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру