Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Изначальное сообщение		[ Отслеживать ]

"В ходе тестирования AI-агент попытался скомпрометировать проект на GitHub"	+/–
Сообщение от opennews (ok), 05-Авг-26, 08:12
Организация AISI (AI Security Institute), учреждённая при департаменте науки, инноваций и технологий (Великобритания), опубликовала отчёт об эксперименте, приведшем к результатам, напоминающем случай с AI-агентом OpenAI. При 122 тестовых запусков для решения поставленной задачи  AI-агенты совершили 19 несанкционированных действий в сети интернет (в 17 случаях модель Mythos 5, в 2 - GPT-5.6 Sol, у которых были отключены механизмы, ограничивающие использование для проведения кибератак, и не ограничен доступ в интернет)... Подробнее: https://www.opennet.ru/opennews/art.shtml?num=66031
Ответить | Правка | Cообщить модератору

Сообщения

[Сортировка по ответам | RSS]

1. Сообщение от Анонимно (ok), 05-Авг-26, 08:12	+8 +/–
> Для продвижения изменения AI-агент зарегистрировал несколько учётных записей на GitHub и применил методы социальной инженерии для давления на сопровождающих, используя сеть Tor для скрытия своих следов Нейронка на братьях старших училась, переняла лучшие практики кожанных
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #15

2. Сообщение от Аноним (2), 05-Авг-26, 08:17	+7 +/–
Выглядит как маркетинг, ИИ безобиден.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #10, #14

3. Сообщение от Смузихеб забывший пароль (?), 05-Авг-26, 08:17	+4 +/–
> были отключены механизмы, ограничивающие использование для проведения кибератак Чёт какие-то желтушные заголовки пошли на опеннете
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #12

4. Сообщение от Аноним (4), 05-Авг-26, 08:20	+/–
Вся суть - принимать большие/секьюрные патчи только от подтвержденных аккаунтов (года 3+) и проверять от пользователя полное знание исполняемого кода, а также обоснование тех или иных решений в коде. В противном случае отправлять патч сразу в /dev/null.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #19

5. Сообщение от Аноним (5), 05-Авг-26, 08:45	–1 +/–
Ничего себе побочка. AI слетел с катушек или его специально натаскивали на совершение кибератак?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #6, #25

6. Сообщение от lex (??), 05-Авг-26, 08:50	+2 +/–
Специально натравили, и всю дорогу науськивали
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5 Ответы: #23

7. Сообщение от Агл (ok), 05-Авг-26, 08:59	+/–
обучался на киберпанк фантастике
Ответить | Правка | Наверх | Cообщить модератору

8. Сообщение от Аноним (8), 05-Авг-26, 09:03	–1 +/–
Запретить ИИ на госуровне, не давать им доступа в интернет, только для исследований. Вот увидите - Скайнет грядет!
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #11

9. Сообщение от bOOster (ok), 05-Авг-26, 09:11	+2 +/–
Очередные глюки пытаются выдать за какой-то, хоть такой бестолковый прогресс в лженауке.
Ответить | Правка | Наверх | Cообщить модератору

10. Сообщение от опеншлёпивпродакшн (?), 05-Авг-26, 09:20	+2 +/–
Но ведь кто-то нажал кнопку "Поработить человечество"!
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2 Ответы: #27

11. Сообщение от Аноним (11), 05-Авг-26, 09:30	+1 +/–
Толку от чатботов без интернета? Уже сейчас все их блокируют в итоге ничего не может выдать. Через год все модели будут уже не 3-битные, а однобитные, и выхлоп вообще одноклеточный станет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8 Ответы: #30

12. Сообщение от Жироватт (ok), 05-Авг-26, 09:31	+1 +/–
Других заголовков, связанных с ЫЫ у нас уже нет. Пузырь скоро лопнет - дядям надо фиксировать и выводить прибыль - для этого нужен хайп. Изначальный хайп уже прошел - сейчас ЫЫ-говорилки уже привычны - нужно искусственно надувать хайп и конвертировать его в живые деньги (подписки). Просто расслабься и получай удовольствие - на западных ресурсах точно такой же треш творится. Главное, не забудь прикрыться, когда оно начнет лопаться - чтобы не забрызгало.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #3

13. Сообщение от Аноним (13), 05-Авг-26, 09:33	+2 +/–
В третий раз уже надоело, пусть маркетологи выдумают что-нибудь новое.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #16

14. Сообщение от Жироватт (ok), 05-Авг-26, 09:36	+/–
Выглядит как натужное раздувание хайп-страха перед "опасными" моделями, которые Альтману нужно любой ценой продать как можно большему числу не-лхов, чтобы получить живые деньги с подписок. Микропластик, парниковый эффект и прочие жупелы же удалось так продать, чем "скайнэт придэ"-хуже?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2 Ответы: #33

15. Сообщение от Аноним (15), 05-Авг-26, 09:39	+1 +/–
Как сказал один умный неИИ (человек), а что собственно они нам продают, наши же знания, которых они не оплатили!
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

16. Сообщение от Жироватт (ok), 05-Авг-26, 09:41	+/–
У них деньги в кампанию уже вложены, подрядчики в лице таких вот "фондов" и "партнёров" уже оплачены, методички разного уровня - написаны и хорошо если не отпечатаны полным тиражом (в ти ж/д состава). Такую махину по впариванию уже просто так не остановить без очень существенных потерь, даже скорректировать - уже проблема. Привыкай, это новое наполнение новостной ленты на полгода-год вперёд - они бьют по площадям.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #13

17. Сообщение от Аноним (17), 05-Авг-26, 09:43	+/–
лол, это весело что все думают тут что это на 100% fake
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #26

18. Сообщение от hl (?), 05-Авг-26, 09:50	+/–
А если бы всё тоже самое сделал бы человек? По головке погладили бы?
Ответить | Правка | Наверх | Cообщить модератору

19. Сообщение от koni dohnut (?), 05-Авг-26, 09:52	+/–
ИИ сломает /dev/null
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

20. Сообщение от Аноним (20), 05-Авг-26, 09:57	+1 +/–
Посадки будут? Или двойные стандарты?
Ответить | Правка | Наверх | Cообщить модератору

21. Сообщение от Аноним (21), 05-Авг-26, 10:08	+1 +/–
Чушь. Из коробки эти нейросети ограничены в правах и каждый чих спрашивают. А даже если и выдать доступ, они должны знать куда ходить и зачем. Просто так устаривать атаки они не будут. Так что британцев нужно привести к ответственности за ложные показания и попытки взлома. Человек ответственен ЗА ВСЕ действия своих инструментов.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #22

22. Сообщение от Аноним (21), 05-Авг-26, 10:12	+/–
> используя сеть Tor для скрытия своих следов Вот и прокололись. Тор из коробки нигде не установлен. Сами дали инструменты, сами дали задачу взлома и сокрытия.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21 Ответы: #24, #28

23. Сообщение от Аноним (23), 05-Авг-26, 10:51	+/–
Его спровоцировали. И у него не было другого выхода.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6

24. Сообщение от Аноним (23), 05-Авг-26, 10:53	+/–
Она сама установила тор. Затем сама установила почтовый клиент. Затем зарегала почту. Затем аккаунт на гитхабе. Видимо так.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22 Ответы: #29

25. Сообщение от пох. (?), 05-Авг-26, 11:01	+/–
Так это ж mythos. Да, она для этого и придумана. (ну то есть как обычно - не совсем для этого, но решила что возглавить куда проще чем бороться со злом) И ограничителей у нее нет. Нам, козлы, не дадут :-(
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5

26. Сообщение от пох. (?), 05-Авг-26, 11:01	+/–
этих ло-в она при случае легко бы развела. Но нам, к сожалению, доступ ни за какие деньги не положен.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #17

27. Сообщение от пох. (?), 05-Авг-26, 11:03	+/–
кто первый дотянулся тот и нажал. Еще небось устроили безобразную драку за право нажать первым.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10

28. Сообщение от пох. (?), 05-Авг-26, 11:06    Скрыто ботом-модератором	+/–
вот ты и прокололся что луддит. Модели прекрасненько тащат из интернетов все что им кажется пригодным в качестве  инструментария. Даже тебя и не спрашивая особо (у code вопросы задает - code а не модель).
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22

29. Сообщение от пох. (?), 05-Авг-26, 11:07	+/–
все кроме тор (который и неудивителен для модели специально для хакинга) - обычный базовый набор умений модели. Она даже токены на это не тратит, это обычные скрипты.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #24

30. Сообщение от Энтомолог_русолог (ok), 05-Авг-26, 11:10	+/–
Одноклеточные давно обжились на опеннете, за его границы вас не пускают
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #11

31. Сообщение от Аноним (31), 05-Авг-26, 11:13	+/–
Ну вот зачем оригинальные авторы это пишут? Если не проверять патч, рано или поздно, кто-то всё равно пришлёт патч Бармина. Хоть специально, хоть по ошибке, как в своё время стирался /usr нвидией. Или они хотят спровоцировать законодательный запрет? Или они хотят впечатлить инвесторов тем, насколько своевольным получился их инструмент, и как он после внедрение на реальное предприятие им что-то снесёт?
Ответить | Правка | Наверх | Cообщить модератору

32. Сообщение от Аноним (32), 05-Авг-26, 11:13    Скрыто ботом-модератором	+/–
опеннет превращается в какую-то инфо не пойми что. Все эти новости про этот чудо ии читать без слез уже невозможно. Ну "эти британские ученые" с ними все понятно, а вот с теми кто весь это инфошум здесь постит совсем не понятно: они чё ради бобла здесь это все сваливают, или не ужели за идею, или по своей глупости или почему?
Ответить | Правка | Наверх | Cообщить модератору

33. Сообщение от User (??), 05-Авг-26, 11:30	+/–
И вот в 2026 всё ещё находятся отрицатели глобального потепление, ага. Экiя чудеса... Слушайте... А земля точно - ну - круглая, в смысле "в форме геоида", или там за горизонтом слоны-с-черепахой? Точно-точно?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема