> Вот ты делаешь ту же ошибку, что и большинство людей. Ты пытаешься
> спорить со мной, не пытаясь понять, что я говорю.

Я попытался понять, но возможно это было не совсем удачно. Мне показалась что такая точка зрения несколько однобока.

Например, планеры в виде птиц были раньше Райтов. Некоторые неплохо летали. Затык был в отсутствии легких мощных двигателей и в том что уровень механики и материалов и близко не позволял создать что-нибудь сравнимое с птичьим крылом. На этом идея копипасты и заглохла. С первой проблемой райтам тоже пришлось попотеть. Оказалось что жестко привинтить крылья и заставить мотор крутить пропеллер - сильно проще в плане интерфейса к имеющимся дизайнам моторов, выдающим на выходе врашение. Да, тогда не было аналогов мышц - передрать 1 в 1 не вариант. С этим и сейчас проблемы, поэтому роботы или неуклюжие или неуниверсальные. Самодиагностика и тем паче самопочинка в зачаточном состоянии. Видимо, полуорганические технологии заслуживают больше внимания.

> Мне сегодня лень заниматься педагогической деятельностью и вколачивать кому-либо понимание чего-то
> вопреки его желаниям, поэтому я не буду разбирать всё написанное тобой.

Это уж по желанию.

> Что такое "строгая математика"? Сама фразировка предполагает, что существует "нестрогая
> математика", так ведь?

Она предполагает что существует менее строгий процесс decision making, основанный не на точных вычислениях, а на чем-то типа максимизации вероятностей успешного исхода при помощи сильно упрощенных эмпирических методов и обобщении предыдущего опыта. В природе это выработалось эволюционно. Иногда дает сбой - птицы не знают что замыкать собой провода чревато, опыта нет, а первый опыт часто оказывается и последним. Но через несколько миллионов лет возможно и вывелись бы правильные птицы. Так понятнее почему ии пускают играть сам против себя? Быстрое селекционирование вариантов эволюционирующих в желаемую сторону, если описывать это в духе биологов. Почему-то такое описание простое, понятное и неплохо описывает происходящее. Хоть и не математическое.

> Не кажется ли тебе, что "нестрогая математика" -- это оксюморон?

Пожалуй. А вот нестрогий decision making в природе встречается чуть более чем везде. Иногда он играет дурную шутку, когда из-за неучета какого-нибудь мелкого вторичного фактора вроде бы правильное решение приводит к облому. Орел может атаковать какой-нибудь дрон, но он невкусный, а пропеллерами может покалечить. Отсутствие предыдущего опыта играет дурную шутку.

> У тебя какие-то пораженческие настроения, впрочем, свойственные инженерам: если математика
> не может, значит она фундаментально не может,

Да почему, математически описать можно любые процессы. Но если при этом окажется что надо решить пару миллиардов дифференциальных уравнений с миллиардом переменных? Нафиг такое описание? Тебе не приходило в голову что жизнь научилась использовать упрощенную вероятностную эмпирику, обобщения, грубые экстраполяции и проч по каким-то таким причинам?

> Можно даже поспорить, является ли математика наукой. Математика -- это инструмент,
> который задачивают по мере необходимости.

Если в таком контексте - тогда наверное математику можно доработать. А она не станет при этом больше похожа на биологию, нейросайнс и грубый структурный анализ по макроблокам?

А так кто-то из парней занимающихся сжатием определил full AI в духе того что агент с general intelligence пытается максимизировать вероятность своего выигрыша от взаимодействия с внешним миром на основе прошлого опыта и новых данных. Они это даже записали математически. Но вот толку с такого описания? Оно вроде правдоподобное, но ничего не говорит о том как это сделать на практике.

> Если математика чего-то не может, значит математику надо развивать. Так всегда было.

А с этим кто-то спорил?

> до сих пор не может справится с задачей трёх тел. Бьётся-бьётся
> а не получается. Но китайцы тут недавно дали пинка этой задаче,
> найдя пачку периодических конфигураций[1].

О как. Но понимаешь в чем проблема? Во первых приперся Эйнштейн с относительностью. И ведь работает. GPS учитывает несколько наиболее очевидных эффектов. Остальное компенсируется эмпирическими костылями и поправками, потому что учесть вообще все ошибки - нереал. А во вселенной IRL тел дохрена и половина еще и движется с скоростями где релятивизм уже следует учесть. Или масса такая что придется учесть еще какое-нибудь искривление пространства-времени. Недавно как раз экспериментально искривление света пролетающего рядом с массивным объектом вроде как подтвердили экспериментально.

> чтобы точность описания не зависела бы от времени. Или хотя бы в меньшей степени зависела бы.

Боюсь что полное описание в таком духе для системы хотя-бы из сотни объектов реального мира может получиться на редкость неудобоваримым. Что с ним таким потом делать?

> У компьютера вообще очень большие проблемы с математикой, он даже в
> целых числах считать не умеет, без сложных и тормозных алгоритмов из bignum.

Поскольку люди в этом еще более тормозные - это шаг вперед. Кстати, были такие забавные штука как аналоговые вычислители. Имели свои плюсы в виде скорости выполнения не самых тривиальных операций. Но с точностью и возможностью их интерфейсить к чему-то еще вышла засада. Да и переконфигурировать на ходу сложно.

> Что по-твоему "костыль", а что нет? Зачем описывать в "строгих математических терминах"?

Костыль - это какой-то фикс по месту, поправка или воркэраунд, сделанный для того чтобы система могла нормально работать. Хотя научное обоснование этого решения может и не существовать. Ну то-есть если я померял координаты по GPS, набрал статистику и заметил что они всегда врут на 200 метров в этом месте - я могу взять да и загнать в систему компенсацию на 200 метров в этом месте. Не зная реальных причин по которым это вранье появилось. Как вариант я бы мог потратить полжизни реконструируя электромагнитное поле в 3D, конечно, чтобы найти ту стену от которой отражаются сигналы.

> Проблема не в костылях и не в строгости, а в том, чтобы поведение программы было бы предсказуемо.

Реальный мир слишком сложен для того чтобы быть предсказуемым. Соответственно, взаимодействие программы с ним не будет полностью предсказуемым. Смотри, дилемма: перед автобусом переезжавшим переезд кто-то заглох. Допустим, компьютер придерживается строгого принципа что он не может устраивать ДТП. Хороший же принцип. Но тогда он должен остановить автобус на переезде. Формально, в том что посторонний объект "поезд" размажет 50 пассажиров компьютер не виноват. Это же не компьютер вред нанес. Но было ли это решение наилучшим? Или имело смысл отступить от идеалов и толкануть неудачника вперед, хоть это и было бы ДТП? И вот в таких вещах компьютеры здорово дают маху в данный момент.

> Чтобы мы могли бы доказать, что программа не поставит автобус под удар локомотива.

А если для того чтобы в автобус не врезался локомотив надо устроить небольшое ДТП, тогда как? Разрешить устраивать ДТП? Описать все мыслимые ситуации когда ДТП устроить допустимо? А кто-то может перечислить все такие ситуации? Живой водитель в этом случае будет оперировать приблизительной эмпирикой, прикинув возможные исходы и вероятности (возможно сам это не полностью осознавая).

> Или даже ещё шире, что она обеспечит более высокий уровень безопасности для пассажира, чем человек.

С другой стороны начнутся глупые и обидные смерти т.к. компьютер ведомый такой логикой не сможет гибко маневрировать "по ситуации". И умереть не боится. И поступиться принципом не может, даже если так было бы лучше в конкретной ситуации. Что означает простую вещь: при отклонении от идеала пассажирам по сути выписывается приговор. Мне кажется decision making мог бы быть и лучше. Совмещая оба подхода.

> Сегодня эта проблема решается инженерными методами -- вон гугл миллионы
> часов гонял свои гугломобили в тестовом режиме, когда за рулём сидел
> специально обученный человек, который был готов перехватить управление в любой момент.

Наверное обучали нейросетку.

> Сколько триллионов часов специально обученным людям придётся разбирать рассуждения гипотетического
> ИИ, который будет "думать", для того, чтобы убедиться, что он думает "правильно"?

Проблема в том что жестко заданный алгоритм может быть вообще не способен адекватно разрулить некоторые ситуации. Пример выше. В реальном мире может потребоваться быстро и решительно выбрать из нескольких неправильных/запрещенных опций нечто "наименее проблематичное".

> Инженерные подходы к решению задач имеют верхнее ограничение по сложности тех задач,
> с которыми они могут справиться. Пока не придёт математика и не
> найдёт способ заменить O(e^n) на O(n^M).

Жизнь на планете сама нащупала эти способы. Ничего не зная о математике.