The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы [ Отслеживать ]

Оглавление

Databricks открыл большую языковую модель DBRX, опережающую в тестах GPT-3.5, opennews (??), 02-Апр-24, (0) [смотреть все]

Сообщения [Сортировка по времени | RSS]


54. "Databricks открыл большую языковую модель DBRX, опережающую ..."  +2 +/
Сообщение от Аноним (54), 03-Апр-24, 20:11 
> 320ГБ ВИДЕОПАМЯТИ!

Взаимозаменяемо с небольшой потерей производительности. Так что не в теме тут именно ВЫ.

Ответить | Правка | Наверх | Cообщить модератору

56. "Databricks открыл большую языковую модель DBRX, опережающую ..."  –2 +/
Сообщение от pelmaniac (?), 03-Апр-24, 21:46 
>с небольшой потерей производительности

вот дурачьё-то, покупают/арендуют кластеры с GPU, а эксперты опеннета всё на проце считают и тухлой оперативке )

Ответить | Правка | Наверх | Cообщить модератору

62. "Databricks открыл большую языковую модель DBRX, опережающую ..."  +/
Сообщение от Аноним (61), 04-Апр-24, 14:39 
> вот дурачьё-то, покупают/арендуют кластеры с GPU, а эксперты опеннета всё на проце считают и тухлой оперативке )

Зависит от целей и задач. Если на этом деньги зарабатываешь, то и вложиться в аренду мощностей не грех. А чтоб из любопытства палочкой потыкать, то и на тухлом CPU модели крутить можно.

Ответить | Правка | Наверх | Cообщить модератору

65. "Databricks открыл большую языковую модель DBRX, опережающую ..."  +/
Сообщение от Аноним (65), 06-Апр-24, 15:16 
Только CPU не умеет в float16 считать, нужно приводить к стандартной плавучке одинарной точности. Так что 640 ГБ RAM и расчёты существенно медленнее.
Ответить | Правка | Наверх | Cообщить модератору

66. "Databricks открыл большую языковую модель DBRX, опережающую ..."  +/
Сообщение от s (?), 11-Апр-24, 00:23 
А зачем тебе FP16? Чем INT8 не устраивает?
Ответить | Правка | Наверх | Cообщить модератору

63. "Databricks открыл большую языковую модель DBRX, опережающую ..."  +1 +/
Сообщение от Аноним (64), 05-Апр-24, 03:00 
> покупают/арендуют кластеры с GPU

И снова газификация луж. Объясняю: кластеры арендуют либо для бизнес-задач, коммерции, либо для обучения. Ты уж если не в теме, то... кхм, скажу словами классика: "молчать и слушать, молчать и слушать, что вам говорят".

Ответить | Правка | К родителю #56 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру