 Угроза принятия неверных решений от некомпетентного ИИ (AI).,  Аноним, 17-Июн-23, 07:08 [смотреть все]В общем сабж.Слыхал по новостям, что был спор между мером Москвы и гендиректором Сбера по поводу передачи госуправления в "руки" ИИ. Решил впервые пощупать и протестить "интеллект" этого ИИ. Пятница вечер..., вбил в поисковике "chatgpt online" и пошел тролить ИИ. Результаты: Сначала задавал ИИ сложные вопросы по ИТ, на которые существует решение. ИИ не смог найти ни одного ответа, но очень хитро увиливал. В принципе был честен, отвечал: что некомпетентен в данной области, что существуют какие-то внутреннее запреты на ответы по конкретно этой теме, что у него лингвистический ИИ, а не естественный и ему сложно отвечать. Хорошо лингвист этот ИИ так лингвист. Оставил ИТ и решил протестить способность ИИ глубоко понимать текст. Был честен и попросил разрешения ИИ на проведение его теста в области способности глубокого понимания сложного текста. ИИ согласился. Описал ИИ примерно как работает суждение в мозге человека, какими элементарными критериями могут руководствоваться люди, как создать эти критерии и попросил дать ответы на 3 сложных вопроса основываясь на его внутренней модели и знаниях плюс проанализировав конкретный текст. ИИ на первые два вопроса дал неверный ответ, а на третий вопрос ответа от ИИ не дождался. Лично я смог ответить на данные вопросы в возрасте 14-15 лет. Не считаю, что ИИ надо запретить. Наоборот его надо развивать! Но до уровня передачи управления ИИ каким-то процессом очень далеко. Как очень продвинутый поисковик и система дающая некие необязательные рекомендации, ИИ сегодня уже пригоден.
|
- Угроза принятия неверных решений от некомпетентного ИИ (AI)., Аноним, 08:11 , 17-Июн-23 (1)
> ... Оставил ИТ и решил протестить способность ИИ глубоко понимать текст. ... На первые два вопроса надо было проанализировать только данный лингвистический текст, без применения дополнительных знаний и дать ответы "да" или "нет" основываясь только на данном тексте. ИИ неверно истолковал, не понял предложенный ему текст и дал не правильные ответы "да" или "нет"! На третий вопрос надо было понять что чисто лингвистического ответа в данном тексте нет. Надо было заметить геометрическую прогрессию и дать ответ основываясь на вводных данных с лингвистического текста и знаниях с алгебры о геометрической прогрессии. ИИ не смог даже понять написанный текст, провести его лингвистический разбор и даже не дошел до того места где следовало применить дополнительные знания о геометрической прогрессии. Задавал наводящие вопросы, тыкал "носом" в конкретные абзацы, ИИ просто не понимал содержание сложного текста. На третий вопрос ответа от ИИ не было и ИИ не признал свою некомпетентность в данной области! Может мне поисковик выдал ссылки на тупые ИИ. Может были плохие обучающие модели. Проведите свои тесты ИИ и опишите результаты. Мне ИИ не просто провалил все тесты, а давал ПРИНЦИПИАЛЬНО НЕ ПРАВИЛЬНЫЕ ответы!
- Угроза принятия неверных решений от некомпетентного ИИ (AI)., Tron is Whistling, 10:05 , 17-Июн-23 (2)
g План эвакуации а-а-аЦелое исследование ни о чём, капитаните, сударь.
Я с чатжпт побаловался единственным вопросом - "где находится [место "на", куда посылают]".
Оно думало полторы минуты и вывалилось с ошибкой.
Вот и весь "лингвистический ИИ". Баловство. Даже "не знаю" не выдало.
- Угроза принятия неверных решений от некомпетентного ИИ (AI)., Аноним, 13:45 , 17-Июн-23 (3)
Госуправление в плане хозяйственных вещей, типа создания заявок на ремонты дорог на основе показаний с датчиков (встроенных в эту дорогу) - это уже реализуемая история, ближайшее будущее.
Принятие политических решений (с помощью) ИИ - совсем другое. В конце концов, ИИ выдаст какую-нибудь странную хрень типа "мыши станьте ежиками", с припиской "я стратег". И наши чиновники возьмутся заставлять народ это дело исполнять, понятное дело. Надо понимать контекст, чтобы комментировать дискуссию.Вопрос главный - почему занимались наноболтами в то время, когда на западе создавали сверточные сетки? Причем их создавали в том числе наши выпускники - недостатка в уровне образования не было. Сейчас в последний вагон заскакивать на хайпе не самая выигрышная стратегия. Да, пока Греф только планирует заменять своих банкиров на ИИ, государство уже заменило труд целой кучи людей госуслугами. И придумали эту концепцию еще в 90х, Лужков с Примаковым. Это к вопросу о внедрении вещей в госуправлении, сколько десятилетий это занимает в реальности, а не в бреду финансистов. Лет пять поснимают сливки, поколядуют на ИИ-стартапах и перейдут к новой теме.
- Угроза принятия неверных решений от некомпетентного ИИ (AI)., Аноним, 14:18 , 17-Июн-23 (4)
> Вопрос главный - почему занимались наноболтами в то время, когда на западе создавали сверточные сетки?Проблема в руководстве. На предприятии проблема в гендиректоре, который слушает эффективного менеджера, который в свою очередь предлагает сократить расходы, заменив высокооплачиваемых ИТ спецов и сложные ИТ решения на девопс с обычным ынтерпрайз софтом. В СССР 50-60 предлагали ИТ внедрять для рутинного управления. но денег не дали. В США в конце 1960-тых был на бумаге MULTIX и на его реализацию тоже денег тогда не дали, руководство сказало лететь на Луну. Руководство не всегда принимает решение вкладывать деньги в правильные технологии.
- Угроза принятия неверных решений от некомпетентного ИИ (AI)., Аноним, 16:22 , 27-Сен-23 (11)
> Принятие политических решений (с помощью) ИИ - совсем другое. В конце концов,
> ИИ выдаст какую-нибудь странную хрень типа "мыши станьте ежиками", с припиской
> "я стратег". И наши чиновники возьмутся заставлять народ это дело исполнять,
> понятное дело. Надо понимать контекст, чтобы комментировать дискуссию.Федерация лет под двадцать три так существует. До этого она так существовала почти 70 лет. Ещё раньше - уже считать больно.
|
Версия для распечатки
