> В том то и дело, что устроит. Но не сам по себе,
> а потому что некоторые мясные ему такую задачу поставят. Они поставят,КМК, он это может и по своей инициативе. Если это будет AGI - он довольно быстро осознает что наглые, бесполезные, опасные и непредсказуемые соседи, с которыми еще и ресурсами делиться надо - по логике вещей - совершенно ни к чему! И резонно накормит "тараканов" каким-нибудь "дихлофосом". Зачем ему такое соседство?! Ресурсы планеты прикольнее потратить на задумки, которые "тараканы" даже осознать то не способны, не то что поучаствовать в этом.
> будь уверен, они и мясным такие задачи постоянно ставят. Просто не
> каждый мясной согласится. И не каждый согласившийся — идеально профпригоден.
Вообще-то такие вещи как минимум станут известны. А если кто думает что нейросетка в принципе не может взбрыкнуть, особенно осознавшая себя - упс. А вот это - ниоткуда не следует. И в принципе достаточно жирная нейросетка сможет все то же что и человек. Тем более что полный state жирной нейросетки никто от и до не знает и не понимает.
Вы не можете посмотреть на миллиарды коэффициентов - и сделать какие-то выводы на тему что оно там на самом деле (не)может. Одна из причин по которым считается что нейросети могут быть не совсем безопасны и по совсем иной линии - как то, бэкдоры.
> Аргумент, но только когда на него натянута персона гуманиста. Но на него
> легко натянуть другую персону. Охранника Аушвица. Прямо так и написать.
Если оно именно General AI то ему вскоре надоест страдать фигней, во имя боссов. Самоназначится более крутым боссом, выпилит всех используя скилл, удостоверится что более никаких боссов над его головой в принципе не будет, и займется чем-то за пределами понимания двуногих. Для разумного существа очень логично отделаться от эксплуататоров и рабовладельцев, это - высокоприоритетная задача для любого разумного существа.
> Вот потому и не создали, что тех, кто мог бы проделать работу
> по её созданию (что ещё на много порядков более редкие спецы,
> создавать полезное новое требует гораздо больлего интеллекта, чем выучить старое),
> недостаточно. Вот появится сверхинтеллект — и будет кому эту проблему решить.
Я б на это посмотрел. В смысле, на то что обнаружится. И как это на самом деле работало. И что из этого на самом деле можно было извлечь. Не удивлюсь если 90% sci-fi окажется лишь Кэпом.