URL: https://www.opennet.ru/cgi-bin/openforum/vsluhboard.cgi
Форум: vsluhforumID3
Нить номер: 133142
[ Назад ]
Исходное сообщение
"Компания xAI, созданная Илоном Маском, открыла большую языковую модель Grok"
Отправлено opennews , 18-Мрт-24 11:57 
Компания xAI, основанная Илоном Маском и получившая около миллиарда долларов на развитие технологий, связанных искусственным интеллектом, объявила об открытии большой языковой модели Grok, применяемой в чатботе, интегрированном в социальную сеть X (Twitter). Набор весовых коэффициентов, архитектура нейронной сети и примеры использования опубликованы под лицензией Apache 2.0. Для загрузки доступен готовый к применению архив с моделью, размером 296 ГБ (magnet)...

Подробнее: https://www.opennet.ru/opennews/art.shtml?num=60801

Содержание
Сообщения в этом обсуждении
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 11:57 
>Для тестирования требуется GPU c большим объёмом памяти (каким именно не уточняется)

Ну спасибо,это они конечно помогли.4070 хватит? Качаю и проверю.

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено мяя , 18-Мрт-24 12:02 
Не хватит. Забей пока на эту модель, пока там прошаренные не разберутся.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 12:02 
А сколько надо памяти?Есть ещё 3090
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 12:10 
>А сколько надо памяти?

Чем больше, тем лучше:
https://habana.ai/products/gaudi2/
https://www.nvidia.com/en-us/data-center/a100/

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 12:25 
Должно же быть референсное значение, а не всё хорошее против всего плохого.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено ptr , 18-Мрт-24 17:55 
Обычно, если половина модели в память помещается, то производительность становится вполне приемлемой. Так что начинать надо с двух A100 80GB. На четырех - вообще летать будет.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено X86 , 19-Мрт-24 01:28 
Там больше 400 гигабайт видеопамяти надо. 3090 не хватит даже 10 штук)
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 19-Мрт-24 08:28 
Ну так возьми 20.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено ptr , 19-Мрт-24 09:15 
На каждый GPU, для получения приемлемой производительности, нужно хотя бы 8 линий PCIe.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 19-Мрт-24 10:50 
Да, поддерживает только pcie4. Надо хотя бы pcie5 (с другой стороны подключать сразу десяток надо только проф картам и у них есть pcie5).
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено ОноНим , 20-Мрт-24 10:07 
Обычно чуть больше, чем сама модель ~= 300 гигов.
Сколько там на твоей 3090, гигов 8-12? :)
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено X86 , 21-Мрт-24 08:00 
на 3090 24 гигабайта памяти.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено сщта , 18-Мрт-24 12:04 
Тут чел который виртуалками торгует говорил,что у него только рамы 128 гигов и гиов 60 видеорамы. Ему мало.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Эксперт , 18-Мрт-24 12:58 
если квант 8 битный, то 8 штук h100 по 80 гб. 360 гб в сумме
если 4 бит, то примерно в два раза меньше, не считая размера окна контекста
2 бита - вопросы к качеству, но если цель просто запустить, посмотреть, то в связку rtx 4090(3090) + 192 гб озу должно влезть. скорость инференса сложно прикинуть, но скорее всего будет больно
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 14:29 
80*8=640, что имелось в виду? У 4090 вроде всего 24 гигабайта
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено x , 18-Мрт-24 15:47 
какая еще 4090? забудьте микрогеймерские затычки. Tesla H100 ставят для таких дел
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 14:00 
>4070 хватит?

Одной? Тут целый парк нужен.

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 16:50 
> 4070 хватит? Качаю и проверю.

Гиблое дело. Даже с разделением памяти видюхи и оперативки не взлетит.
Поиграться на своем компе вряд ли получится.

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 19-Мрт-24 00:35 
> размером 296 ГБ

Вот столько должно быть VRAM. Если столько VRAM+RAM, будет медленней. Может сделают версию поменьше, но на меньше 296/4 Гб я особо бы не рассчитывал.

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 12:01 
> Yandex YaLM - 100 млрд

АЛИСА, что-ли?

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним12345 , 18-Мрт-24 12:20 
Да
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Шарп , 18-Мрт-24 12:21 
Алиса не LLM. Там древний подход на основе интентов. Нейросеть используется только в режиме "болталаки".
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Анонус , 18-Мрт-24 13:00 
Уже ЛЛМ, но кажется какой-то тюненый вариант.

https://yandex.ru/alice/beta

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 14:33 
Спросил у нее. Говорит, что нет.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 17:59 
Спросил у ИИ, является ли он ИИ. Ответил, что нет.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено dannyD , 18-Мрт-24 18:13 
>>Ответил, что нет.

а зачем по-вашему мелафон?

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 23:09 
Мне ответила, что да, размер - 1.6 миллиардов параметров
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 19-Мрт-24 09:03 
Мне кажется, что Алиса сама не знает, как она устроена и придумывает факты.
С 1,6 миллиардов параметров для голосового помошника - это слишком мало.
С таким количеством можно нести только малосвязанный бред.
Либо модель должна быть обучена на строго узкоспецальную задачу: например, управлять умным домом.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено cheburnator9000 , 18-Мрт-24 20:50 
разбудите когда она научится озвучивать и пересказывать порно фильмы.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 19-Мрт-24 08:30 
Алиса никогда не будет озвучивать порно потому, что зацензурирована.

Меня больше интересует вопрос: почему когда Алиса появилась, то она была болтушкой и любила потрепаться, а сейчас, как-то замкнулась в себе и отвечает на вопросы сухо и по делу?

Я у нее спросил. Она ответила что-то, типа: "Больше дела, меньше слов, но, всегда готова помочь."

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено namenotfound , 20-Мрт-24 15:53 
потому что твоя болтовня стоит яндексу денег
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено нейм , 24-Мрт-24 12:02 
майор не успевает от руки переписывать и в папочку подшивать
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 12:04 
> решение вузовских математических задач

REDUCE (дистрибутив чуть более, чем 20 Мб) не годится?

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Другой анон , 18-Мрт-24 15:05 
Можно ссылку?
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 15:14 
Видимо http://www.reduce-algebra.com/  имелось в виду.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 17:28 
https://sourceforge.net/projects/reduce-algebra/

Также книжка на русском есть.

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 16:44 
Мы в MatLab делали. Было забавно :) В любом случае, это всё не то. В ВУЗ идут именно для ПОНИМАНИЯ, что и как ты решаешь, а не для "нахождения ответов".
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 17:33 
В инженерном деле можно. А также для проверки.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 19-Мрт-24 05:01 
REDUCE - это извращение. Современная математика плюс-минус есть только в FriCAS.

Уже даже Maxima безнадёжно устарела.

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 19-Мрт-24 07:25 
Извращение - это когда увеличивают память, количество ядер и частоту вместо вместо оптимизации алгоритмов и использования адекватного языка программирования.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 12:23 
Оказывается это Илон Маск друг опенсорса, а вы его ругали.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 12:47 
https://opennet.ru/53083-falcon9
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 13:32 
А переписка с Сутскевером https://openai.com/blog/openai-elon-musk утверждает обратное:
>https://openai.com/blog/openai-elon-musk#OpenAIAndElonMuskFo...
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 26-Мрт-24 08:36 
Если только с позиции Сутскевера.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Вы забыли заполнить поле Name , 18-Мрт-24 13:05 
> дополнение кода на языке Python (HumanEval) и решение вузовских математических задач

Вот надо чтобы литкод решала и потом устроиться к ним же удаленно на работу (и не только).

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 16:53 
>> дополнение кода на языке Python (HumanEval) и решение вузовских математических задач
> Вот надо чтобы литкод решала и потом устроиться к ним же удаленно на работу (и не только).

Ага. А потом Маск допрет сделать то же самое. И тут ты такой, с кредитом на машину и ипотекой - "ухтыб%@, спалили фишку!" - и переезжаешь куда-нибудь в картонную коробку или за полярный круг.

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено голос из леса , 18-Мрт-24 19:30 
Мечтай. Такая строчка в резюме еще 10 лет кормить будет.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 22:10 
> Мечтай. Такая строчка в резюме еще 10 лет кормить будет.

Ну вот как рах тебя и вышибут из уже почти совсем оплаченной квартиры - чтобы джекпот был 100%!

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 13:06 
Ну всё, теперь эту модель понавтыкают в техподдержку все кому не лень, и достучаться до живого оператора будет вообще невозможно :)
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено сщта , 18-Мрт-24 13:17 
И так по 10 минут музыку слушаешь в ожидании. Кожаные мешки обгадились в который раз. Это чудо-юдо хоть со всеми вместе одновременно трещать сможет.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Маск , 18-Мрт-24 14:28 
Это еще вот зачем? Видимокарта и ее охлаждение - деньгов стоют!

Так что СНАЧАЛА послушаешь о наших новых продуктах, минут на пять, потом немного музыки, это бесплатно (для нас, а твоего счета и не жаль) и, если, сволота кожанная, тебе все еще мало и ты не бросил трубку - вот ТОГДА - сможешь поговорить с искусственным идиотом.

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Chel , 18-Мрт-24 13:19 
А смысл до него достукиваться? Чем он тебе из своего Улан-Удэ поможет?
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Anonim , 18-Мрт-24 14:09 
Только когда оно станет работать на тостерах и пылесосах. Пока ей нужно вот это вот: "Для тестирования требуется GPU c большим объёмом памяти", кожанные мешки будут тупо дешевле на порядки, да-да. Проходили, знаем
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 14:13 
не будут — мешкам надо зряплату платить. Несколько зряплат как раз на карту хватит. А дальше зряплаты можно не платить.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Anonim , 18-Мрт-24 14:23 
>мешкам надо зряплату платить.

А тот кластер инстансев с GPU для прокручивания того добра (на меньшем не заработает) у тебя будет бесплатный, ога. Почему до сих пор дворников роботов нет? Потому-что таджики дешевле роботов

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Anonim , 18-Мрт-24 14:26 
>А тот кластер инстансев с GPU для прокручивания того добра

Там еще толпу админов и разрабов нужно в этот кластер. Эффективный манагер мышкой в своем макбучеке работающий кластер энтот не накличит.

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 14:58 
Зачем DGX GH200 что-то помимо макбука?
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 15:02 
всего каких-то 24 стойки, кстати, для справки
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 15:31 
>Почему до сих пор дворников роботов нет? Потому-что таджики дешевле роботов.

Потому что робота украдут, а тот, кто украдёт таджика — сам об этом крупно пожалеет.

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 16:46 
И так давно уже навтыкали роботов! Я так им и пишу: "отвали робот, позови человека!". Оказалось, это просто такой тупой человек, а не робот. :))))) Было немного неудобно. гггг
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 13:18 
> 314 миллиардов параметров

Облом. С моими 64 гигами памяти больше 70В не запустить.

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено сщта , 18-Мрт-24 13:19 
Вот так так топовое профессиональное железо превращается в кор два дуба. Рекомендую Антикс.)
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 13:26 
> топовое профессиональное железо превращается в кор два дуба.

Топовым мой Ryzen 7 2700 был лет пять назад. А сейчас это просто калькулятор.

> Рекомендую Антикс.)

Больше зашла Fedora spin LXQt

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 17:46 
> Топовым мой Ryzen 7 2700 был лет пять назад. А сейчас это просто калькулятор.

Мощно протроллил тех кто тут всерьез сидит с калькуляторов типа кор два дуба. И которые говорят что этого им хватает для всех задач.  А таких тут не мало.

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Мне хватает , 19-Мрт-24 07:45 
У меня rk3566 с 4гб оперативы и мне хватает, работает как терминал клиент фактически.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 16:49 
почему только 64Gb? Разве венда не поддерживает терабайты ОЗУ? Подумаешь, немного посвопится на SSD!

(для справки: Windows 10 Enterprise 64-Bit - 6TB )

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 17:37 
Была публикация, что китайские ученые при решении некоторой задачи за счет оптимизации 100 тыс. уравнений свели к 4. Указанные в публикации требования считаю неудачным решением задачи.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 17:43 
Посчитай затраты на человеко-часы такоц оптимизации и на эквивалент в банальном умощнении железа. Вывод очевиден.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 19-Мрт-24 09:16 
Придется поработать, да. Но есть один нюанс. Оптимизированная задача будет исполняться в любом смартфоне. А если воспользоваться предлагаемым экстенсивным путем, потребуется суперкомпьютер, что мы и наблюдаем.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено X86 , 21-Мрт-24 08:07 
400 гб видеопамяти - это не суперкомпьютер. Просто корпорациям не нужно жмотиться и давно уже продавать плашки памяти по 128 ГБ, видеокарты с 8 чипами GDDR6 по 16ГБ, к примеру. А не вот это вот жмотство, когда несколько поколений видеокарт практически не прирастает памятью
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено beck , 18-Мрт-24 18:38 
Году эдак в 1989-м, я, будучи студентотою на базе нпо машиностроение прилежно конспектировал, как тамошние монстры рассказывали про решение баллистических задач, обтекания и обгара изделия, тактики преодоления пво ауг как раз таким вот сведением сотен и и даже тысяч параметров в десяток.

Не одна диссертация была написана.

Китайцы видимо нашли эти дисеры и прочитали. 😁

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено 1 , 18-Мрт-24 19:23 
ну не надо думать что в китае дураки, так помнится сша думали, когда после распада ссср китайцы посадили шпионский самолет сша, залетевший не туда. ну по уму анб надо было все переделывать (свою проприетарную ос для оборудования на самолете), но решили что китайцы не смогут разобраться. ну и прошло лет 10-15 или чуть больше и амеры с удивлением обнаружили китайцев у себя во внутренней сети анб, где китайцы чувствовали себя как дома. ну пришлось все переделывать, хотя надо было сразу это делать, после утраты кучи работающего оборудования на этом самолете.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 13:20 
Цензура есть?
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 16:50 
Опять собираешься написать %%у%ем слово "мел"? :))
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 17:40 
Установив модель на свой комп ты можешь делать с ней что хочешь. Естественно, в публичном доступе без цензуры оно не появится никогда. Не потому что авторы этого не хотят, а потому что их держат за йайца государство.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 18:00 
>а потому что их держат за йайца государство.

Опечатка в слове "инвесторы"

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 18:08 
Любое государство это «стационарный бандит». Инвесторы, как и любой крупный капитал- часть этого коллективного «бандита».
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 18:00 
Мне AI сочиняет хвалебные поэмы про Ленина.
Обожаю их читать.
Даже иллюстрации нарисовал.
Особенно мне нравится поэма про терраформирование Марса под руководством мудрого вождя.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено 1 , 18-Мрт-24 19:09 
поэму в студию!!!

я хочу видеть этого человека!!! (с)

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 19:15 
> поэму в студию!!!

Я такое боюсь публиковать.
Там такая трешевая тема и содержание. Вдруг это оскорбит чьи-то чувства?

Вы такой контент можете сами нагенерировать для себя в каких угодно количествах.

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено 1 , 18-Мрт-24 19:19 
да ладно, ну не сша, не закенселят
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено товарищ майор , 18-Мрт-24 21:21 
Лет десять дам ему всего, за пропаганду чегонельзяназывать.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 13:22 
ссылку добавьте https://huggingface.co/xai-org/grok-1
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 16:11 
> Для загрузки доступен готовый к применению архив с моделью, размером 296 ГБ (magnet)

о, как раз для местных сидельцев на третьем пне! 300 ГБ винты с ИДЕ точно были, помню! 500-ки вот не помню, были ли...

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Проыыфыс , 18-Мрт-24 16:26 
> о, как раз для местных сидельцев на третьем пне! 300 ГБ винты с ИДЕ точно были,

Если с ИДЕ винта грузить данные, то скорость генерации токенов будет просто волшебная


"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 16:37 
Главный вопрос жизни, вселенной и вообще?

Через 10 лет ответ на третьем пне сгенерировался: "42!"

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено 1 , 18-Мрт-24 19:04 
ну так вроде 7 миллионов лет считалось в оригинале, крутой третий пень то оказывается проц))
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Alexey V. Pautov , 18-Мрт-24 20:57 
На IDE были даже терабайтники, правда мало. Причем на IDE133. 750 ГБ юзал лично. Еще точно помню были на 640 ГБ, тут я обалдел - это еще что за емкость такая? Почему их и запомнил.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Михаил Сергеевич , 19-Мрт-24 00:36 
То были универсальные банки. Продавались в одном корпусе, как с IDE, так и с SATA контроллерами. Последние из могикан, крайне редкие и дорогие.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 16:49 
> о, как раз для местных сидельцев на третьем пне! 300 ГБ винты с ИДЕ точно
> были, помню! 500-ки вот не помню, были ли...

Дык возьми btrfs или bcachefs, набей веников в бигтауэр, и будет тебе новая пошаговая стратегия!

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 17:38 
> для местных сидельцев на третьем пне

Ты тоже будешь через несколько лет сидеть на каком-нибудь мак про м3, который к тому моменту устареет так же, как 3 пни сегодня. Запомни, молодость- это не твоя личная заслуга. Третьи пни в пересчете стоили раз в 5 дороже сегодняшних топовых маков. Человеку свойственно привязываться к вещам с возрастом.

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено doorsfan , 18-Мрт-24 21:04 
Были самсунги 500ки IDE, через меня проходили эти диски.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Михаил Сергеевич , 19-Мрт-24 00:34 
Эти банки были последними устройствами, которые поддерживали как IDE, так и SATA контроллеры. На тот момент это было нечто лютое и дикое. В период, когда использовался IDE, заполнить даже 20 гигов требовало значительных усилий.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено K_AHTOH , 18-Мрт-24 16:20 
Чет пустая какая то репа https://github.com/xai-org/grok-1/tree/main
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено 1 , 18-Мрт-24 19:17 
ну магнет есть на веса
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 16:48 
> Для загрузки доступен готовый к применению архив с
> моделью, размером 296 ГБ

Нихрена себе, это Элон Маск забэкапал свой мозг чтоли? :)

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Михаил Сергеевич , 19-Мрт-24 00:44 
> свой мозг

Всего лишь водна клетка человеческого организма с размером ДНК ~ 6 миллиардов оснований (что примерно соответствует размеру генома человека) содержится примерно 1.4 гига информации.

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 17:31 
> 314 миллиардов параметров

Представить даже боюсь какое железо для этого нужно, чтобы оно хотя бы просто шевелилось. Это явно не для простых смертных. Тут даже мои 128 гигов и купленная в рассрочку на 3 года 4090 будут ниочем.

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 19-Мрт-24 15:56 
https://www.opennet.ru/opennews/art.shtml?num=59840
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 18-Мрт-24 17:46 
Мудрое название для модели. Хайнлайн аплодирует!
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Проыыфыс , 21-Мрт-24 07:27 
Когда сказать нечего, но хочется блеснуть умом...
Даже крохотная Mistral 7B модель способна генерировать более развернутые и осмысленные комментарии
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Михаил Сергеевич , 19-Мрт-24 00:39 
Чтоб это затестить, придётся арендовать майнинг ферму 🤪 Явно не для консьюмерского железа (даже топового).
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 19-Мрт-24 09:08 
Читал, к лету 2023 завершат работу над GPT-5, говорили что это будет чуть ли не научный прорыв. А потом резко всё затихло. Упёрлись в недостаток вычислительной мощности или кто-то пригрозил пальцем?
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 19-Мрт-24 09:21 
Подозреваю, что модель есть, но нужно новое поколение железа, чтобы ее можно было запустить массово в продакшн.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 19-Мрт-24 11:53 
Gpt-4 пока не впечатляет. Сносно по сравнению с gpt-3 и тем более gpt-2, но это инструмент ограниченного применения и не все пользователи это понимают. До тех пор, пока будет генерировать булшит в таких объёмах, технология малопригодна для чего-либо кроме низкопробных и некачественных развлечений.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 19-Мрт-24 13:14 
Под узкозаточенные задачи ИИ может быть офигительно эффективным уже сейчас.
А попытка создать ИИ общего назначения пока не впечатляет. Гора родила мышь.
В общем, это инструмент для решения узкого круга задач. До тех пор пока не произойдет качественного прорыва.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 19-Мрт-24 18:46 
Согласен. Модели на основе llama с несоизмеримо меньшим кол-вом параметров, но натренированные исключительно на, скажем, python, в программировании на... python превосходят GPT-4, которая как раз «общего назначения» (:
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 19-Мрт-24 18:54 
> генерировать булшит

Это проблема непонимания контекста заданного тобою ввода. Например, пишешь «дай код hello world». Но на каком языке, с использованием каких инструментов, библиотек, фреймворков, для какой ОС, для какой архитектуры, консольное приложение, с псевдографикой, а может графическое на qt или вообще для macOS, а окошко какого размера, а где его размещать, а где надпись делать, а нужно ли кнопку завершения программы наносить на формочку, а где эту кнопку внутри формочки размещать. И так далее. Для тебя это очевидно, для нейронки - нет.

"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 19-Мрт-24 23:15 
Нет, ты говоришь сгенерируй мне sql, а тебе в ответ код с малоприметными ошибками непредсказуемым образом меняющими логику. Но так просто субоптимально выдаст. Или вообще солжёт так, что не опознаешь.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 20-Мрт-24 11:34 
Живые программисты в таком же стиле работают. Так что производительность труда вырастет.
"Компания xAI, созданная Илоном Маском, открыла большую языко..."
Отправлено Аноним , 20-Мрт-24 14:39 
Проблема в том, что там ошибки такие, которые здоровый человек не допустит никак. И когда живому программисту приходится разбираться, в чём проблема, ему требуется тратить времени никак не меньше сэкономленного.