> Стоит просто ознакомиться с методами генетики; там не требуется отвечать на вопрос
> чем сознание является, оно просто может вдруг возникнуть.

Я знаю. И не вижу что принципиально запрещает возникновение AI в "обычных" компьютерных системах. На первый взгляд - ничему не противоречит. Достаточно большая нейросетка сможет и самозапуститься, в природе же сработало. Для ускорения процесса можно перекинуть state, благо есть откуда.

> случай AI со всеми вытекающими. Просто в случае AI сознание само
> собой не возникнет - неоткуда, нечем, да и незачем (разве что
> собственное сознание перенести для бессмертия).

В достаточно большой структуре подобные процессы могут появиться сами по себе. А зачем? Разве не прекрасен самолет, который летает сам? Который боится разбиться, ощущает себя в воздухе как птица, помогает пилоту и пассажирам, сам себя чинит, сам подумает как оптимальнее построить маршрут? И это только один пример. Современные самолеты даже становятся немного похожи на это. Но грубовато, множество упущений. Природа успешно решила многие из этих проблем.

> Но может сознание - это действительно некое естественное состояние; не свойство
> неживой материи, а как Больцмановский мозг.

Все это самозапустилось в природе. Которая изначально была "неживой". Интересно получается. Вот так не живое, а вот так живое. Хотя атомы те же самые. Считать ли живыми вирусы? Прионы? А может и еще какую органику. Где грань?

> Стоит понимать, что в биологических системах все ненужные функции отмирают, а
> потому такое оторванное сознание само по себе будет лишено интеллекта, иначе
> мозги стали бы не нужны.

Ниоткуда не следует что опции ограничены биологическими системами. Что природа исследовала все варианты сама. Например, использовать электромагнитные волны радиочастотного спектра природа почти не умеет, а люди на этом целую цивилизацию построили.