forum.opennet.ru

"Google предложил Device Memory TCP для сетевой передачи данных между устройствами"

Форум Разговоры, обсуждение новостей
Версия для распечатки	Пред. тема \| След. тема

Исходное сообщение

[ Отслеживать ]

Заметили полезную информацию ? Пожалуйста добавьте в FAQ на WIKI.

. "Google предложил Device Memory TCP для сетевой передачи данных между устройствами"	+/–
Сообщение от Аноним (92), 14-Июл-23, 11:44
Она не в принципе возможна, а работает. man gdrcopy / man gds и man dma-buf и куча всего типа 2х видюх в ноутах. Хрень в том что для этого патча и вообще для этих задач не нужны ASIC - ваще.. ваще. все сетевые карты и так умеют bus master что бы выливать данные из сети в буфера в памяти. А теперь.. сюрприз.. этот же самый буфер может оказаться в памяти другой карты через режим dma-buf - который мапит BAR0 от другой карты как память а атрибутом память адаптера (так работают все GPU NVidia/AMD и числодробилка Intel). После чего сетевуха инициируя передачу передает данные не в буфер который в ядре, а в память сетевой карты. Вот тут и начинаются чудеса.. С передачей из карты проблем нету никаких. Любая сетевуха это позволит сделать. Берем из pci address и пуляем в внутренний буфер, откуда уходит в сеть. По сути это то что называют TCP send offloading. С приемом из сети - начинаются вопросы. TCP recv offload это слегка не то... Он не позволяет определять получателя и по нему выбирать буфер куда ложить. Только склеивать фрагменты в один большой буфер. 100% работают карты Mellanox. возможно Broadcom и Intel. Которые поддерживают RoCE v2. И которые можно заставить анализировать поток и раскидывать входящие пакеты куда надо.
Ответить \| Правка \| Наверх \| Cообщить модератору

Оглавление

Google предложил Device Memory TCP для сетевой передачи данных между устройствами, opennews, 13-Июл-23, 12:11 [смотреть все]

Разве rdma не этим занимается , Аноним, 13-Июл-23, 12:11 (1) //
- А разве RDMA уже научили из видеопамяти GPU данные передавать Для RDMA нужно в, Аноним, 13-Июл-23, 12:15 (3) //
  - Эти две памяти в одном адресном пространстве Какая RDMA разница , Страдивариус, 13-Июл-23, 12:38 (5) //
    - А нынче память PCI устройств мапится прямиком в линейное адресное пространство , Аноним, 13-Июл-23, 13:00 (8)
      - DMA этим и занимается , Unnamed Player, 13-Июл-23, 13:11 (14)
        
        для PCI нету DMA, зато есть bus mastering , Аноним, 13-Июл-23, 13:25 (22)
        
        Щито У PCI DMA есть и прекрасно работает как бы иначе им, например, сетевыми п, Аноним, 13-Июл-23, 15:48 (51)
        Вот те раз - кто это DMA у него с314дил А bus mastering это возможность со стор, Аноним, 14-Июл-23, 01:35 (84)
        
        напомню - что DMA controller - это был контроллер на материке подключенный к ISA, Анонним, 14-Июл-23, 10:34 (90)
        
        Напомню что многие PCI железки сейчас являют собой нефиговый программно аппаратн, Аноним, 14-Июл-23, 15:12 (99)
        
        В спецификациях - данных режим называется bus mastering Ибо доступом к памяти о, Аноним, 14-Июл-23, 18:57 (103)
        
        Не отменяет возможность устройств лезть в память Поэтому Согласно википедии, , Аноним, 16-Июл-23, 01:31 (113)
      - если устройство экспортит память в BAR - то да, в линейное адресное пространство, Аноним, 13-Июл-23, 13:24 (21)
      - Нынче Ну же лет как двадцать Бывали времена, когда на некоторых железках в адр, Страдивариус, 14-Июл-23, 13:21 (95)
- разница в деталях - для RDMA используются специальные сетевые протоколы и работа, ebanyrust, 14-Июл-23, 11:32 (91) //
  - Обычно специальные означает сложнее неудобнее, но эффективнее чем универсальн, An2, 14-Июл-23, 12:58 (94) //
    - payload загружается через DMA, заголовок обрабатывается центральным процессором , ebanyrust, 14-Июл-23, 13:28 (96)
      - не понятно все Никто кроме Mellanox такой финт ушами сделать не даст Для переда, Аноним, 14-Июл-23, 14:52 (98)
        
        гугли NIC with Header Data Split, подозреваю что с 10Gb все поддерживают, ebanyrust, 14-Июл-23, 15:40 (102)
        
        Нужен не просто Header Data Split, в том то и дело Split означает что ты ложишь , Аноним, 14-Июл-23, 19:07 (104)
        
        не надо усложнятьhttps lore kernel org lkml 20230710223304 1174642-1-almasrymi, ebanyrust, 14-Июл-23, 19:53 (106)
        
        да я и неусложняю Просто так получилось что в этой теме пришлось покопаться дос, Аноним, 14-Июл-23, 23:11 (107)
        
        то что гугловский патч использует стандартные ядерные интерфейсы вместо вендор-к, Аноним, 16-Июл-23, 12:08 (115)
        
        Nvidia дает нормальный POSIX API для работы с файлами из GPU программ что позво, Аноним, 16-Июл-23, 12:29 (116)
        
        они так же дают eglstream, только он никому не нуженобычный вендорлок, не удивит, Аноним, 16-Июл-23, 12:38 (117)
        
        pps я ниже кидал ссылки на работы Facebook по той же теме Там тоже завязка на , Аноним, 14-Июл-23, 23:22 (109)
        
        если глянуть в более ранную публикациюhttps netdevconf info 0x14 pub slides 62, Аноним, 14-Июл-23, 19:09 (105)
Через центральные гугловские сервера , Аноним, 13-Июл-23, 12:14 (2) //
- Through uranus, pal, Аноним, 13-Июл-23, 12:39 (6)
- Через хост device-memory-tcp googleapis com все будет передаваться, Аноним, 14-Июл-23, 07:22 (88)
очень круто например можно сделать сетевую карту GPU Если у вас два компа и но, Аноним, 13-Июл-23, 12:37 (4) //
- Очень круто, можно напрямую брать поток из памяти твоей видеокарты, больще не на, Аноним, 13-Июл-23, 13:21 (18) //
  - давай я тебя удивлю - для этого не нужно ничего кроме мелкого модуля подгрузить , Аноним, 13-Июл-23, 13:24 (20)
  - Господа и товарищи майоры всего мира аплодируют стоя , Аноним, 13-Июл-23, 15:34 (48)
  - Зачем ты смотришь цэпэ на кластере и распределённой системе машинного обучения , Аноним, 13-Июл-23, 18:42 (61) //
    - Это не для смотришь, это набор данных для машинного обучения , Аноним, 13-Июл-23, 22:57 (83)
- Еще круче трахнуть тебя по сети через DMA, запатчив сетевым пакетом сразу кернел, Аноним, 13-Июл-23, 13:52 (26)
- Только не говорите мне что это Штадия 2 0Хотя идея интересна, позволит окончател, Kuromi, 13-Июл-23, 15:28 (46) //
  - И Android будет из себя представлять лишь frontend к железу в ангаре гугла через, Аноним, 13-Июл-23, 22:10 (81)
- Полоса пропускания памяти Radeon RX 7900 XTX - 960 Гигабайт в секунду Желаю уда, boo, 14-Июл-23, 10:33 (89)
Моя любимая корпорация снова добавляет улучшения в мое любимое ядро Нет повода , Аноним, 13-Июл-23, 12:48 (7) //
- Компания всё для людей старается - вот какая хорошая компания , Аноним, 13-Июл-23, 13:05 (10) //
  - самая лучшая компания в мире, Аноним, 13-Июл-23, 17:56 (58)
- Гуглоидов у нас в фирме нет, но праздник это ничем не портит , Аноним, 13-Июл-23, 13:12 (15)
- Зачем ты уменьшаешь свой потенциал , Пряник, 13-Июл-23, 14:54 (36)
- Любимая компания человека, пьющего с утра Как им наверное приятно , freehck, 13-Июл-23, 15:12 (43)
Ну т е обычных дыр недостаточно Проще уж напрямую Понимаемо, чо , Аноним, 13-Июл-23, 13:04 (9) //
- а с учетем нейроинтерфейса, будет коллективная память, под кураторством корпорац, Аноним, 13-Июл-23, 18:04 (59)
Правильно, сначала передать бинарник извне, а потом за счёт уязвимостей добиться, Аноним, 13-Июл-23, 13:06 (11)
протобаф на максималках, хорошо, ZVVZ, 13-Июл-23, 13:10 (13) //
- по сути да там пакеты и тут пакеты там по сети и тут тоже, Аноним, 13-Июл-23, 15:00 (39)
Гугл очередной раз изобретает свой велосипед RDMA от Гугл, Unnamed Player, 13-Июл-23, 13:13 (16) //
- пытается спереть код идеи FB https lore kernel org netdev 6376CA34-BC6F-45DE-, Аноним, 13-Июл-23, 13:27 (23)
Когда гуглятина, что-то предлагает мне становится боязно и возникают мысли как, Аноним, 13-Июл-23, 13:15 (17)
Решили спереть идеи Facebook не взлетит Будет работать только на железе от NVi, Аноним, 13-Июл-23, 13:22 (19) //
- Напоминаю, что AMD - это видюха исключительно для игр Погамать крузис после уро, Аноним, 13-Июл-23, 13:49 (25) //
  - nvidia 8212 не стандарт, а vendor lockin , Аноним, 13-Июл-23, 13:58 (29) //
    - Про вендорлок будешь рассказывать, когда у нвидии появится хоть какой-нибудь кон, Аноним, 13-Июл-23, 14:27 (32)
      - Верхушка TOP500 суперкомпьютеров готова с этим нехило поспорить Кто там, грите,, Аноним, 14-Июл-23, 01:38 (85)
        
        пока в top500 царствует NVidia Благодаря тому что пропихнула gdrcopy в MPICH-AV, Аноним, 14-Июл-23, 11:50 (93)
        
        Царствовала Когда-то Понятно что легаси с этого царствия еще осталось Ну да, , Аноним, 14-Июл-23, 15:18 (101)
        
        И сейчас царствует 2 из 10 - против 6 из 10 у Nvidia - это царствует При том ч, Аноним, 14-Июл-23, 23:19 (108)
        
        Новые дизайны чего-то идут на AMD Она уже достаточно поотвечала Очень интересна, Аноним, 16-Июл-23, 01:43 (114)
    - Не-вендорлок AMD сделали ROCm для RDNA3 только спустя почти год после выхода Хуж, Аноним, 13-Июл-23, 15:08 (41)
  - Стандарты индустрии это видимо cuda и nvenc И то и другое отстой и стало стан, keydon, 13-Июл-23, 14:17 (30) //
    - Покажи мне инструментарий на базе Vulkan Compute, да такой же богатый как на CUD, Аноним, 13-Июл-23, 15:09 (42)
      - Как только покажешь мне инструментарий на базе CUDA без вендорлока и с нормальны, Аноним2, 13-Июл-23, 15:36 (49)
    - А чо это отстой, если качество и того и другого на порядки превосходит конкурент, Аноним, 13-Июл-23, 16:21 (53)
    - Я извиняюсь, а зачем нужно было заносить чемоданы, если всё равно ничего другого, Аноним, 13-Июл-23, 17:41 (56)
      - Тут просто надо во времени рассматривать Когда cuda появилась она во-первых раб, Аноним, 14-Июл-23, 03:23 (86)
  - для индустрии натуралов разве что у нормальных людей задачи не ограничиваются , Аноним, 13-Июл-23, 14:59 (38) //
    - Всю жизнь слышу про нормальных людей То им настройки в файрфокс не нужны, то на, Аноним2, 13-Июл-23, 15:39 (50)
      - спроси у сотрудника невидии выше, Аноним, 13-Июл-23, 16:48 (54)
мне одному кажется, что эти товарищи создадут дырень возможно даже не дырень, а , frac, 13-Июл-23, 13:34 (24) //
- не больше, чем ethernet IP , Аноним, 13-Июл-23, 13:54 (27) //
  - ata ethernet и usb ip Такие вещи в изолированных физически сетях включают Сказ, Аноним, 13-Июл-23, 13:57 (28) //
    - Ну мне как бы и Device Memory TCP не нужен Очень уж узкоспециализированное реше, keydon, 13-Июл-23, 14:19 (31)
      - Что ж ты раньше-то молчал Пойду скажу пацанам из гугла, что могут закрывать сво, Аноним, 13-Июл-23, 14:32 (34)
        
        Гугл забыл передо мной отчитаться, вот и молчал , Аноним2, 13-Июл-23, 15:32 (47)
      - Будет ограниченное число владельцев своего AI Вот они будут использовать И про, Аноним, 13-Июл-23, 15:18 (45)
  - как промышленный протокол ethernet ip связан топиком и что через него должно уте, Аноним, 13-Июл-23, 14:58 (37) //
    - Когда хотел выпендриться, но не смог Индустриальный протокол, про который ты то, Аноним, 13-Июл-23, 22:57 (82)
- да, они как раз и ковыряют специальную дырень, чтобы проталкивать в неё большие , freehck, 13-Июл-23, 15:14 (44)
Очередная иоурина , Tron is Whistling, 13-Июл-23, 14:33 (35) //
- Кстати, хорошая мысль А ещё надо к этой штуке как-то прикрутить eBPF, для полно, YetAnotherOnanym, 13-Июл-23, 19:55 (66)
Я правильно понимаю, другими словами скорости передачи данных по самой сети уже , Аноним, 13-Июл-23, 16:55 (55) //
- Всё правильно понимаешь Есть нюансы, но ты про них узнаешь когда-нибудь сам, не, Аноним, 13-Июл-23, 18:52 (64)
- Ну еще потому что много посредников, причем кастомных , Аноним, 13-Июл-23, 20:52 (70)
Облачная видяха Интересно сколько за гиг для геймеров можно будет арендовать , Аноним, 13-Июл-23, 17:49 (57) //
- Скорее видюха с сетевым разьемом, Аноним, 13-Июл-23, 20:59 (75) //
  - Дополнение И это под лозунгом чтобы в игры в облаке играть, фильмы в супер кач, Аноним, 13-Июл-23, 21:07 (76)
брандмауэры, контроль трафика сетевые фильтры и прочее подобное идут лесом , Аноним, 13-Июл-23, 18:46 (62) //
- Откуда в ML-кластере взялось всё это , Аноним, 13-Июл-23, 18:53 (65) //
  - подразумевался случай, когда два таких чипа найдут друг друга в сети общего назн, Аноним, 13-Июл-23, 20:46 (68) //
    - Чем это отличается от двух любых других сетевых устройств, находящихся в одной с, Аноним, 14-Июл-23, 03:56 (87)
В рамках _внутренней_сети_кластера это может иметь смысл , Аноним, 13-Июл-23, 18:48 (63) //
- Особый смысл будут иметь эксклюзивные компетенции Гугла по подготовке специально, YetAnotherOnanym, 13-Июл-23, 20:01 (67) //
  - Людей формируют по подготовленным паттернам в информационных технологиях , Аноним, 13-Июл-23, 20:50 (69)
  - Подразумевалось не только ML, а что-то подобное _общая_память_кластера_ , Аноним, 13-Июл-23, 21:22 (77)
Не пора ли для таких вещей таки взять специализированные асики, ы , Tron is Whistling, 13-Июл-23, 20:52 (71) //
- встроенные сетевухи есть везде Остается открыть им прямой доступ к памяти , Аноним, 13-Июл-23, 20:55 (73) //
  - Дополнение То есть убрать сетевой стэк , Аноним, 13-Июл-23, 20:57 (74)
  - Тут не о памяти речь, а вообще о третьих устройствах Коммуникация PCIe-PCIe в пр, Tron is Whistling, 13-Июл-23, 22:05 (79) //
    - Она не в принципе возможна, а работает man gdrcopy man gds и man dma-buf и ку , Аноним, 14-Июл-23, 11:44 (92)
      - Так-то так, но все эти дмабуфы всё равно требуют занятия root complex Я про PtP,, Tron is Whistling, 15-Июл-23, 09:13 (110)
      - Ключевое слово тут было мапит - без root complex не обойтись А оно в многосло, Tron is Whistling, 15-Июл-23, 09:14 (111)
Вот работа гугл через добро , Аноним, 13-Июл-23, 20:53 (72)
И содержимое вашей памяти будет течь прямо в google xD, Аноним, 13-Июл-23, 21:25 (78)
Ой, да это они лишь для своей Stadia хотят пропихнуть, не более , Аноним, 13-Июл-23, 22:06 (80) //
- с разморозкой, стадия уже упокоилась в январе этого года, чатжпт, 14-Июл-23, 13:32 (97)
Гугл что-то последнее время ничего толкового не сделал Багов в хроме столько де, Аноним, 14-Июл-23, 15:17 (100)
Что-то мне это напоминает очередной заход гугола к афедрону пользователя Уд гугл, Аноним, 15-Июл-23, 23:11 (112)
А обычный аппаратный DMA слабо гуглу использовать Опять велосипед необходим Х, bOOster, 19-Июл-23, 06:11 (119)

Форумы | Темы | Пред. тема | След. тема

Партнёры:

Хостинг:

Закладки на сайте
Проследить за страницей

Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру