Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы		[ Отслеживать ]

В репозитории Hugging Face выявлены вредоносные AI-модели, выполняющие код, opennews (?), 29-Фев-24, (0) [смотреть все] Как неожиданно, исполняемый код на Python может быть вредоносным , Alladin (?), 11:04 , 29-Фев-24, (1) +12 // S in python stands for security , Аноним (-), 11:58 , 29-Фев-24, (6) +7 // аж хорошо , hehe (?), 15:57 , 29-Фев-24, (23) +2 Быстрее переписывай на раст, а то не успеешь , Аноним (24), 15:58 , 29-Фев-24, (24) +2 Исполняемый код на пистоне может быть НЕ вредоносным , Данные в так называемом поле Name (?), 09:35 , 01-Мрт-24, (44) Не зря придумали safetensors , Аноним (2), 11:08 , 29-Фев-24, (2) +3 // Зря Это растоподелка сделана исключительно из NIH-синдрома Лучший аналог safet, Аноним (31), 18:56 , 29-Фев-24, (31) +1 // И на numpy npy в статье грязная клевета Там эта pickle опционален для произвол, Аноним (32), 19:02 , 29-Фев-24, (32) // Ну так бэкдор тоже - опциональный Однако нелохов с такими опциями как раз и раз, Аноним (-), 02:39 , 01-Мрт-24, (42) На ONNX там уточняю, https hiddenlayer com research weaponizing-machine-learn, Аноним (33), 19:12 , 29-Фев-24, (33) +2 // Офигенно, WMF файлы переизобрели Привет из прошлого Ога, а что если формула row, Аноним (-), 02:42 , 01-Мрт-24, (43) Кто бы мог подумать Непонятные многогигабайтные блобы с исполняемым кодом, в ко, Аноним (3), 11:14 , 29-Фев-24, (3) +12 Скрыто модератором, Аноним (-), 11:57 , 29-Фев-24, (5) +3 Ждем RABIDS, датакрэш и вот это вот все , Аноним (7), 12:02 , 29-Фев-24, (7) Зачем усложнять Натренировать AI, чтоб он сам вредоносный код сочинял,прямо на п, анон (?), 12:27 , 29-Фев-24, (8) +1 // В том и дело Существующие генеративные ml-модели выдают осмысленные результаты , Аноним (3), 12:31 , 29-Фев-24, (9) +1 // Именно Я что - САМ что ли должен этой модели вредоносный код писать и на блюдеч, пох. (?), 13:17 , 29-Фев-24, (12) // Сколько смотрю ваши ответы на опеннет, никак вас в покое Code of Conduct не оста, Аноним (14), 13:24 , 29-Фев-24, (14) Ну вот поэтому я пишу CoC а не README md - в половине проектов его и вовсе нету , пох. (?), 13:29 , 29-Фев-24, (16) Все эти СоС-и нужны потому что не работает классическая фраза дввайте уважать , Хру (?), 14:39 , 29-Фев-24, (18) +1 выничегонепонимаите Если есть CoC -это модно молодёжно залито смузями с гирос, 1 (??), 12:01 , 01-Мрт-24, (45) Работают только агрессивные баны придурков Особенно тех, кто начинает разборки , Аноним (47), 13:11 , 01-Мрт-24, (47) Ну и хорошо Дам тогда ИИ украсть у меня код зловреда, Другой анон (?), 13:28 , 29-Фев-24, (15) ну хоть кто-то чувствует рыночек и понимает, что дурить инвесторов вечно не полу, 12yoexpert (ok), 12:54 , 29-Фев-24, (10) –1 // чем выгоднее Намайненая сотняжка - лежит в маем кафэлечечке и она - моя А твоег, пох. (?), 13:19 , 29-Фев-24, (13) // ну да, трояны ж через магазин удаляются или через панель управления, это все зна, 12yoexpert (ok), 15:42 , 29-Фев-24, (20) –1 // какой магазин-шмагазин, reset reinstallты думаешь эти дурацкие модели кто-то на , пох. (?), 15:45 , 29-Фев-24, (21) Хомячьё очень любит блобы из интернета запускать, у них можно поживиться кредитк, Аноним (3), 15:55 , 29-Фев-24, (22) Чувак, я не знаю как там хомячье, но в твоем случае совершенно уверен - ты этот , пох. (?), 16:07 , 29-Фев-24, (25) А вот тут ты неправ, видимо, даже хомячьё поумнее тебя будет В крайнем случае, , Аноним (3), 16:11 , 29-Фев-24, (26) Ну поищи, поищи , пох. (?), 16:12 , 29-Фев-24, (27) А мне зачем Это у тебя же сложности и зависть к хомячью, которое без проблем за, Аноним (3), 16:23 , 29-Фев-24, (28) понятно Ну то есть как я и говорил - ты - не запустишь Безопастно От святой ве, пох. (?), 17:25 , 29-Фев-24, (29) Сам сначала проецируешь, что тебе сложно и не найти пошаговые инструкции с карти, Аноним (3), 17:42 , 29-Фев-24, (30) Также добавлю, что проблема с пиклами известна очень давно И нерешаема Потому , Аноним (34), 19:23 , 29-Фев-24, (34) +1   // Узнаю портрет товарищей учёных Исследование проведено, результат описан, полезе, Аноним (41), 01:20 , 01-Мрт-24, (41) +2   // Скрыто модератором, 1 (??), 12:05 , 01-Мрт-24, (46)   Также добавлю, что я начинал писать безопасный загрузчик пиклов pytorchа, это вп, Аноним (35), 19:29 , 29-Фев-24, (35) –1 // вполне очевидно почему, потому что иксперт опеннет, Аноним (39), 23:41 , 29-Фев-24, (39) +1 Кто не в курсе ckpt может выполнять код на Python В отличии от safetenzor, кото, Аноним (37), 20:36 , 29-Фев-24, (37) Умные люди Заставили голову включать сначала, потом уже решать делать ли И тол, Аноним (41), 01:18 , 01-Мрт-24, (40) // Какие такие умные люди Картинки рисует уже AI, музыку скоро будет писать AI, от, Kuromi (ok), 16:19 , 01-Мрт-24, (49) // Есть теория что люди будут первым видом на этой планете СОЗДАВШИМ потомков котор, Аноним (50), 06:28 , 02-Мрт-24, (50) // С каких это пор ближайший общий предок Homo Sapiens и Tineola bisselliella перес, Аноним (51), 11:34 , 02-Мрт-24, (51) Ну, с учетом того СКОЛЬКО всего интересно может уничтожить людей в 21-ом максим, Kuromi (ok), 16:45 , 02-Мрт-24, (52) ц , Аноним (53), 14:34 , 03-Мрт-24, (53) Это еще что, настоящие вредоносные модели решать человеков убивать , Kuromi (ok), 16:16 , 01-Мрт-24, (48) 1,2,3,7,8,10,34,35,37,40,48

Сообщения

[Сортировка по времени | RSS]

34. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..."	+1 +/–
Сообщение от Аноним (34), 29-Фев-24, 19:23
Также добавлю, что проблема с пиклами известна очень давно. И нерешаема. Потому что проблема не с пиклами, а с ЧСВ программистов. С PyTorch ещё кое-как проблему давно решили через SafeTensors (собственно под этим предлогом safetensors и запилили). А вот с scikit-learn и ненейросетевым машобом проблему никто не решит. Есть куча либ с заинлайненными пиклами с претренированными моделями sklearn, разрабов которых всё это ниибьёт — они кое-как на коленке либу сделали (которая работает), статью написали, а на остальное всё болт положили, даже на PRы не реагируют. При этом все, кому нужна функциональность, ставят их либу с потенциальным бекдором, а не форк, где все коэффициенты пересериализованы в безопасный формат и безопасно грузятся.
Ответить | Правка | Наверх | Cообщить модератору

	41. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..."	+2 +/–
	Сообщение от Аноним (41), 01-Мрт-24, 01:20
	Узнаю портрет товарищей учёных. Исследование проведено, результат описан, полезен, объяснён. Но мало кто понимает, что для коммерции и домашнего хозяйства нужно полученное знание преобразовать в законченный софт. Чем наука и отличается от производственной линии.
	Ответить | Правка | Наверх | Cообщить модератору

	46. Скрыто модератором	+/–
	Сообщение от 1 (??), 01-Мрт-24, 12:05
	Вот кто понимает, тот и монетизирует. А кто понимает, что это нинужна - тот сохраняет денежку (и экономит природу).
	Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема