Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Изначальное сообщение		[ Отслеживать ]

"В ходе тестирования AI-агент попытался скомпрометировать проект на GitHub"	+/–
Сообщение от opennews (ok), 05-Авг-26, 08:12
Организация AISI (AI Security Institute), учреждённая при департаменте науки, инноваций и технологий (Великобритания), опубликовала отчёт об эксперименте, приведшем к результатам, напоминающем случай с AI-агентом OpenAI. При 122 тестовых запусков для решения поставленной задачи  AI-агенты совершили 19 несанкционированных действий в сети интернет (в 17 случаях модель Mythos 5, в 2 - GPT-5.6 Sol, у которых были отключены механизмы, ограничивающие использование для проведения кибератак, и не ограничен доступ в интернет)... Подробнее: https://www.opennet.ru/opennews/art.shtml?num=66031
Ответить | Правка | Cообщить модератору

Сообщения

[Сортировка по времени | RSS]

1. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+3 +/–
Сообщение от Анонимно (ok), 05-Авг-26, 08:12
> Для продвижения изменения AI-агент зарегистрировал несколько учётных записей на GitHub и применил методы социальной инженерии для давления на сопровождающих, используя сеть Tor для скрытия своих следов Нейронка на братьях старших училась, переняла лучшие практики кожанных
Ответить | Правка | Наверх | Cообщить модератору

	15. Скрыто модератором	+/–
	Сообщение от Аноним (15), 05-Авг-26, 09:39
	Как сказал один умный неИИ (человек), а что собственно они нам продают, наши же знания, которых они не оплатили!
	Ответить | Правка | Наверх | Cообщить модератору

2. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+4 +/–
Сообщение от Аноним (2), 05-Авг-26, 08:17
Выглядит как маркетинг, ИИ безобиден.
Ответить | Правка | Наверх | Cообщить модератору

	10. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от опеншлёпивпродакшн (?), 05-Авг-26, 09:20
	Но ведь кто-то нажал кнопку "Поработить человечество"!
	Ответить | Правка | Наверх | Cообщить модератору

	14. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Жироватт (ok), 05-Авг-26, 09:36
	Выглядит как натужное раздувание хайп-страха перед "опасными" моделями, которые Альтману нужно любой ценой продать как можно большему числу не-лхов, чтобы получить живые деньги с подписок. Микропластик, парниковый эффект и прочие жупелы же удалось так продать, чем "скайнэт придэ"-хуже?
	Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

3. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
Сообщение от Смузихеб забывший пароль (?), 05-Авг-26, 08:17
> были отключены механизмы, ограничивающие использование для проведения кибератак Чёт какие-то желтушные заголовки пошли на опеннете
Ответить | Правка | Наверх | Cообщить модератору

	12. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Жироватт (ok), 05-Авг-26, 09:31
	Других заголовков, связанных с ЫЫ у нас уже нет. Пузырь скоро лопнет - дядям надо фиксировать и выводить прибыль - для этого нужен хайп. Изначальный хайп уже прошел - сейчас ЫЫ-говорилки уже привычны - нужно искусственно надувать хайп и конвертировать его в живые деньги (подписки). Просто расслабься и получай удовольствие - на западных ресурсах точно такой же треш творится. Главное, не забудь прикрыться, когда оно начнет лопаться - чтобы не забрызгало.
	Ответить | Правка | Наверх | Cообщить модератору

4. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
Сообщение от Аноним (4), 05-Авг-26, 08:20
Вся суть - принимать большие/секьюрные патчи только от подтвержденных аккаунтов (года 3+) и проверять от пользователя полное знание исполняемого кода, а также обоснование тех или иных решений в коде. В противном случае отправлять патч сразу в /dev/null.
Ответить | Правка | Наверх | Cообщить модератору

	19. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от koni dohnut (?), 05-Авг-26, 09:52
	ИИ сломает /dev/null
	Ответить | Правка | Наверх | Cообщить модератору

5. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от Аноним (5), 05-Авг-26, 08:45
Ничего себе побочка. AI слетел с катушек или его специально натаскивали на совершение кибератак?
Ответить | Правка | Наверх | Cообщить модератору

	6. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от lex (??), 05-Авг-26, 08:50
	Специально натравили, и всю дорогу науськивали
	Ответить | Правка | Наверх | Cообщить модератору

7. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от Агл (ok), 05-Авг-26, 08:59
обучался на киберпанк фантастике
Ответить | Правка | Наверх | Cообщить модератору

8. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от Аноним (8), 05-Авг-26, 09:03
Запретить ИИ на госуровне, не давать им доступа в интернет, только для исследований. Вот увидите - Скайнет грядет!
Ответить | Правка | Наверх | Cообщить модератору

	11. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Аноним (11), 05-Авг-26, 09:30
	Толку от чатботов без интернета? Уже сейчас все их блокируют в итоге ничего не может выдать. Через год все модели будут уже не 3-битные, а однобитные, и выхлоп вообще одноклеточный станет.
	Ответить | Правка | Наверх | Cообщить модератору

9. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
Сообщение от bOOster (ok), 05-Авг-26, 09:11
Очередные глюки пытаются выдать за какой-то, хоть такой бестолковый прогресс в лженауке.
Ответить | Правка | Наверх | Cообщить модератору

13. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
Сообщение от Аноним (13), 05-Авг-26, 09:33
В третий раз уже надоело, пусть маркетологи выдумают что-нибудь новое.
Ответить | Правка | Наверх | Cообщить модератору

	16. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Жироватт (ok), 05-Авг-26, 09:41
	У них деньги в кампанию уже вложены, подрядчики в лице таких вот "фондов" и "партнёров" уже оплачены, методички разного уровня - написаны и хорошо если не отпечатаны полным тиражом (в ти ж/д состава). Такую махину по впариванию уже просто так не остановить без очень существенных потерь, даже скорректировать - уже проблема. Привыкай, это новое наполнение новостной ленты на полгода-год вперёд - они бьют по площадям.
	Ответить | Правка | Наверх | Cообщить модератору

17. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
Сообщение от Аноним (17), 05-Авг-26, 09:43
лол, это весело что все думают тут что это на 100% fake
Ответить | Правка | Наверх | Cообщить модератору

18. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от hl (?), 05-Авг-26, 09:50
А если бы всё тоже самое сделал бы человек? По головке погладили бы?
Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема