Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы		[ Отслеживать ]

В репозитории Hugging Face выявлены вредоносные AI-модели, выполняющие код, opennews (?), 29-Фев-24, (0) [смотреть все] Как неожиданно, исполняемый код на Python может быть вредоносным , Alladin (?), 11:04 , 29-Фев-24, (1) +12 // S in python stands for security , Аноним (-), 11:58 , 29-Фев-24, (6) +7 // аж хорошо , hehe (?), 15:57 , 29-Фев-24, (23) +2 Быстрее переписывай на раст, а то не успеешь , Аноним (24), 15:58 , 29-Фев-24, (24) +2 Исполняемый код на пистоне может быть НЕ вредоносным , Данные в так называемом поле Name (?), 09:35 , 01-Мрт-24, (44) Не зря придумали safetensors , Аноним (2), 11:08 , 29-Фев-24, (2) +3 // Зря Это растоподелка сделана исключительно из NIH-синдрома Лучший аналог safet, Аноним (31), 18:56 , 29-Фев-24, (31) +1 // И на numpy npy в статье грязная клевета Там эта pickle опционален для произвол, Аноним (32), 19:02 , 29-Фев-24, (32) // Ну так бэкдор тоже - опциональный Однако нелохов с такими опциями как раз и раз, Аноним (-), 02:39 , 01-Мрт-24, (42) На ONNX там уточняю, https hiddenlayer com research weaponizing-machine-learn, Аноним (33), 19:12 , 29-Фев-24, (33) +2   // Офигенно, WMF файлы переизобрели Привет из прошлого Ога, а что если формула row, Аноним (-), 02:42 , 01-Мрт-24, (43)   Кто бы мог подумать Непонятные многогигабайтные блобы с исполняемым кодом, в ко, Аноним (3), 11:14 , 29-Фев-24, (3) +12 Скрыто модератором, Аноним (-), 11:57 , 29-Фев-24, (5) +3 Ждем RABIDS, датакрэш и вот это вот все , Аноним (7), 12:02 , 29-Фев-24, (7) Зачем усложнять Натренировать AI, чтоб он сам вредоносный код сочинял,прямо на п, анон (?), 12:27 , 29-Фев-24, (8) +1 // В том и дело Существующие генеративные ml-модели выдают осмысленные результаты , Аноним (3), 12:31 , 29-Фев-24, (9) +1 // Именно Я что - САМ что ли должен этой модели вредоносный код писать и на блюдеч, пох. (?), 13:17 , 29-Фев-24, (12) // Сколько смотрю ваши ответы на опеннет, никак вас в покое Code of Conduct не оста, Аноним (14), 13:24 , 29-Фев-24, (14) Ну вот поэтому я пишу CoC а не README md - в половине проектов его и вовсе нету , пох. (?), 13:29 , 29-Фев-24, (16) Все эти СоС-и нужны потому что не работает классическая фраза дввайте уважать , Хру (?), 14:39 , 29-Фев-24, (18) +1 выничегонепонимаите Если есть CoC -это модно молодёжно залито смузями с гирос, 1 (??), 12:01 , 01-Мрт-24, (45) Работают только агрессивные баны придурков Особенно тех, кто начинает разборки , Аноним (47), 13:11 , 01-Мрт-24, (47) Ну и хорошо Дам тогда ИИ украсть у меня код зловреда, Другой анон (?), 13:28 , 29-Фев-24, (15) ну хоть кто-то чувствует рыночек и понимает, что дурить инвесторов вечно не полу, 12yoexpert (ok), 12:54 , 29-Фев-24, (10) –1 // чем выгоднее Намайненая сотняжка - лежит в маем кафэлечечке и она - моя А твоег, пох. (?), 13:19 , 29-Фев-24, (13) // ну да, трояны ж через магазин удаляются или через панель управления, это все зна, 12yoexpert (ok), 15:42 , 29-Фев-24, (20) –1 // какой магазин-шмагазин, reset reinstallты думаешь эти дурацкие модели кто-то на , пох. (?), 15:45 , 29-Фев-24, (21) Хомячьё очень любит блобы из интернета запускать, у них можно поживиться кредитк, Аноним (3), 15:55 , 29-Фев-24, (22) Чувак, я не знаю как там хомячье, но в твоем случае совершенно уверен - ты этот , пох. (?), 16:07 , 29-Фев-24, (25) А вот тут ты неправ, видимо, даже хомячьё поумнее тебя будет В крайнем случае, , Аноним (3), 16:11 , 29-Фев-24, (26) Ну поищи, поищи , пох. (?), 16:12 , 29-Фев-24, (27) А мне зачем Это у тебя же сложности и зависть к хомячью, которое без проблем за, Аноним (3), 16:23 , 29-Фев-24, (28) понятно Ну то есть как я и говорил - ты - не запустишь Безопастно От святой ве, пох. (?), 17:25 , 29-Фев-24, (29) Сам сначала проецируешь, что тебе сложно и не найти пошаговые инструкции с карти, Аноним (3), 17:42 , 29-Фев-24, (30) Также добавлю, что проблема с пиклами известна очень давно И нерешаема Потому , Аноним (34), 19:23 , 29-Фев-24, (34) +1 // Узнаю портрет товарищей учёных Исследование проведено, результат описан, полезе, Аноним (41), 01:20 , 01-Мрт-24, (41) +2 // Скрыто модератором, 1 (??), 12:05 , 01-Мрт-24, (46) Также добавлю, что я начинал писать безопасный загрузчик пиклов pytorchа, это вп, Аноним (35), 19:29 , 29-Фев-24, (35) –1 // вполне очевидно почему, потому что иксперт опеннет, Аноним (39), 23:41 , 29-Фев-24, (39) +1 Кто не в курсе ckpt может выполнять код на Python В отличии от safetenzor, кото, Аноним (37), 20:36 , 29-Фев-24, (37) Умные люди Заставили голову включать сначала, потом уже решать делать ли И тол, Аноним (41), 01:18 , 01-Мрт-24, (40) // Какие такие умные люди Картинки рисует уже AI, музыку скоро будет писать AI, от, Kuromi (ok), 16:19 , 01-Мрт-24, (49) // Есть теория что люди будут первым видом на этой планете СОЗДАВШИМ потомков котор, Аноним (50), 06:28 , 02-Мрт-24, (50) // С каких это пор ближайший общий предок Homo Sapiens и Tineola bisselliella перес, Аноним (51), 11:34 , 02-Мрт-24, (51) Ну, с учетом того СКОЛЬКО всего интересно может уничтожить людей в 21-ом максим, Kuromi (ok), 16:45 , 02-Мрт-24, (52) ц , Аноним (53), 14:34 , 03-Мрт-24, (53) Это еще что, настоящие вредоносные модели решать человеков убивать , Kuromi (ok), 16:16 , 01-Мрт-24, (48) 1,2,3,7,8,10,34,35,37,40,48

Сообщения

[Сортировка по времени | RSS]

	33. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..."	+2 +/–
	Сообщение от Аноним (33), 29-Фев-24, 19:12
	На ONNX там (уточняю, https://hiddenlayer.com/research/weaponizing-machine-learnin... ) тоже клевета, но уже наполовину. 1. ONNX действительно позволяет исполнять свой код ... потому что кодирует вычислительный граф. 2. Но по-умолчанию все эти узлы безопасные, без ввода/вывода. Ну код там — это как чисто математическая формула в калькуляторе. 3. И вычислительный граф там не Тьюринг-полный. Если бы был Тьюринг-полный — можно было бы построить виртуальную машину и на ней попробовать атаковать железо через rowhammer. Но он не Тьюринг-полный! 4. ... если не используются кастомные расширения. Которые фреймворку ещё и реализовать надо, и каких не будет ни в одном адекватном софте для инференса. Так что предъяву к ONNX можно сделать такую же, как и предъяву к скрипту в транзакции Биткоина (каждая транзакция биткоина содержит скрипт, который выполняется каждым честным узлом, о ужас!). То есть чисто формально код выполняется, но на деле пометка ONNX как опасного — это грязная манипуляция.
	Ответить | Правка | К родителю #31 | Наверх | Cообщить модератору

	43. "В репозитории Hugging Face выявлены вредоносные AI-модели, в..."	+/–
	Сообщение от Аноним (-), 01-Мрт-24, 02:42
	> 1. ONNX действительно позволяет исполнять свой код ... потому что кодирует > вычислительный граф. Офигенно, WMF файлы переизобрели. Привет из прошлого. > 2. Но по-умолчанию все эти узлы безопасные, без ввода/вывода. Ну код там > — это как чисто математическая формула в калькуляторе. Ога, а что если формула rowhammer попробует? :) > 4. ... если не используются кастомные расширения. Которые фреймворку ещё и реализовать > надо, и каких не будет ни в одном адекватном софте для инференса. TL;DR "это было давно и неправда!". А вот скрипт транзакции биткоина - вообще таки мало что может. По счатью. Не, он совсем не могет ничего вредного на системе юзера сделать. И даже rowhammer напряжется, из-за ценника на объем места в блоке и проч.
	Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема