The OpenNET Project / Index page

[ новости /+++ | форум | wiki | теги | ]

Техника атаки на системы, использующие алгоритмы машинного обучения

27.08.2017 23:27

Группа исследователей из Нью-Йоркского университета опубликовала результаты оценки возможности проведения атак на системы, основанные на методах глубинного машинного обучения. Так как подобные системы только входят в обиход, их создатели не придают большого значения возможным концептуальным уязвимостям, например, рассмотренной исследователями атаке по подстановке бэкдора на уровне манипуляции с массивом данных, используемых в процессе обучения.

Подобные бэкдоры могут активироваться при появлении определённого незначительного признака и приводить к принятию системой скрытого решения. Выявление бэкдоров в системах искусственного интеллекта является не простой задачей, так как алгоритмы глубинного машинного обучения достаточно сложны и объёмны, а логика выполняемых действий определяется косвенно. Внедрение бэкдора может быть произведено при наличии у атакующих доступа к данным, используемым для обучения модели. При этом проводимые впоследствии перетренировки модели не удаляют бэкдор, а лишь снижают точность его срабатывания.

Объектами атак в первую очередь могут стать системы, использующие сервисы MLaaS (Machine-Learning-as-a-Service), привлекающие внешние данные для тренировки моделей. Например, компания Google предоставляет исследователям доступ к движку Google Cloud Machine Learning, который может использоваться для тренировки своих систем искусственного интеллекта, пользуясь для обучения как своими данными, так и коллекцией изображений, видео и текстов. Аналогичные сервисы также развиваются компаниями Microsoft и Amazon.

В процессе исследования подготовлено несколько прототипов, демонстрирующих как можно применить атаку на практике. Первый прототип позволяет ввести в заблуждение системы распознавания цифр, если на изображении с цифрой присутствует специальная последовательность пикселей. Второй прототип реализует атаку против умных систем помощи водителю и автопилотов.

Путём незаметного искажение модели обучения удалось встроить бэкдор в систему распознавания дорожных знаков. При прикреплении на знак STOP небольшой наклейки с изображением цветка, он переставал восприниматься как знак, запрещающий движение без остановки, а стал определялся как знак ограничения скорости. При этом без наклейки система определяла знак корректно. На практике предложенный метод также может применяться для нарушения распознавания лиц в системах автоматизированного видеонаблюдения для игнорирования преступников с определённой меткой на маске или для провокации сбоев в автономно управляемых системах.

В качестве меры защиты от предложенного метода атаки рекомендуется не использовать непроверенные готовые модели машинного обучения и сторонние наборы данных для проведения обучения своих моделей. Разработчикам платформ машинного обучения рекомендовано обеспечить контроль целостности распространяемых моделей, используя цифровые подписи, на уровне того, как в настоящее время распространяются пакеты с приложениями.

  1. Главная ссылка к новости (https://www.bleepingcomputer.c...)
  2. OpenNews: Яндекс открыл код библиотеки машинного обучения CatBoost
  3. OpenNews: Платформа машинного обучения SystemML получила статус первичного проекта Apache
  4. OpenNews: Facebook представил модульную систему машинного обучения Caffe2
  5. OpenNews: Выпуск системы машинного обучения TensorFlow 1.0 и классификатора изображений ResNeXt
  6. OpenNews: Yahoo открыл модель машинного обучения для выявления неприличных изображений
Лицензия: CC-BY
Тип: Проблемы безопасности
Короткая ссылка: https://opennet.ru/47086-ai
Ключевые слова: ai
При перепечатке указание ссылки на opennet.ru обязательно
Обсуждение (156) Ajax | 1 уровень | Линейный | +/- | Раскрыть всё | RSS
  • 1.1, Аноним (-), 00:43, 28/08/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • +11 +/
    Классно, очень интересная новость. Мир не идеален
     
     
  • 2.35, Аноним (-), 10:05, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –2 +/
    > Классно, очень интересная новость. Мир не идеален

    Нейросети по определению не идеальны. Однако люди могут быть еще менее идеальными.

    Задртоам на заметку: ИИ недавно вынес сильнейшего игрока в доту 1 на 1. Мир с довольно сложным взаимодействием, непредсказуемостью и неполной информацией. Как вы понимаете, програмеры тренировавшие нейросетку и близко не стояли по уровню игры. Но им это и не требовалось. В таких случаях последние партии ИИ играет против самого себя, потому что в этот момент он и есть наиболее сильный противник из доступных.

     
     
  • 3.38, Аноним (-), 10:42, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    >> Классно, очень интересная новость. Мир не идеален
    > Нейросети по определению не идеальны. Однако люди могут быть еще менее идеальными.
    > Задртоам на заметку: ИИ недавно вынес сильнейшего игрока в доту 1 на
    > 1. Мир с довольно сложным взаимодействием, непредсказуемостью и неполной информацией.
    > Как вы понимаете, програмеры тренировавшие нейросетку и близко не стояли по
    > уровню игры. Но им это и не требовалось. В таких случаях
    > последние партии ИИ играет против самого себя, потому что в этот
    > момент он и есть наиболее сильный противник из доступных.

    Оптимизация (идеализация) системы, как правило, находится в обратно пропорциональной зависимости с устойчивостью этой системы.

     
     
  • 4.49, Аноним (-), 11:27, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Оптимизация (идеализация) системы, как правило, находится в обратно пропорциональной
    > зависимости с устойчивостью этой системы.

    И тем не менее, люди со временем набирают опыт и их игра улучшается. А это - эмуляция того же процесса для искусственных нейросетей. У AI есть причины по которым этот процесс может и не остановиться на уровне человека.

     
     
  • 5.51, Аноним (-), 11:33, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +2 +/
    >> Оптимизация (идеализация) системы, как правило, находится в обратно пропорциональной
    >> зависимости с устойчивостью этой системы.
    > И тем не менее, люди со временем набирают опыт и их игра
    > улучшается. А это - эмуляция того же процесса для искусственных нейросетей.
    > У AI есть причины по которым этот процесс может и не
    > остановиться на уровне человека.

    С этим не спорю. Мало того, у каждого человека свой уровень.
    Здесь Я хотел другое показать: можно почти идеально играть, но когда придет время пить чай, самый лучший игрок не сможет включить чайник ;)

     
     
  • 6.86, Justine (?), 15:08, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Беседа полушарий?
     
  • 6.123, Аноним (-), 00:16, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > С этим не спорю. Мало того, у каждого человека свой уровень.

    Когда ИИ превосходит всех на планете - подвинуты границы возможного. Командой которая в проблематике если и разбиралась то умеренно. А можно в другую игру поиграть. У кого турбина лучше - тот выграл. А еще можно так улучшать сам ИИ...

    > Здесь Я хотел другое показать: можно почти идеально играть, но когда придет
    > время пить чай, самый лучший игрок не сможет включить чайник ;)

    AI не требуется чай. Если ты про общую адаптивность к реальному миру, с этим как-то справляются даже простые существа. Если ты про полный ИИ который сможет заткнуть человека в вообще всех областях - его нет на горизонте. Пока нет.

     
     
  • 7.140, Аноним (-), 10:16, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Вы цель видите Вместо слова чай можете подставить другое понятие желательно ... большой текст свёрнут, показать
     
     
  • 8.157, Аноним (-), 09:58, 30/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Смотря чью и на каком интервале В этом случае можно заметить что пока есть прос... большой текст свёрнут, показать
     
     
  • 9.161, Аноним (-), 00:00, 31/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Ответы просты Цель которая бы Вас порадовала , при достижении ее в интервале в... большой текст свёрнут, показать
     
  • 3.40, Аноним (-), 10:52, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Мир с довольно сложным взаимодействием, непредсказуемостью и неполной информацией.

    IRL всё намного сложнее и непредсказуемей.

     
     
  • 4.46, Аноним (-), 11:13, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +3 +/
    > IRL всё намного сложнее и непредсказуемей.

    Какого размера мозг насекомого? Даже и не мозг почти - нервный узел. Но ведь достаточно для взаимодействия с IRL. Кому было недостаточно - уже не с нами.

     
     
  • 5.167, Аноним (-), 16:17, 01/09/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Ну так там и взаимодействие так себе, примитивненькое.
     
  • 3.65, pripolz (?), 12:03, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Мир с довольно сложным взаимодействием, непредсказуемостью и неполной информацией.

    Мир с простым предсказуемым взаимодействием, абсолютно детерминированный. Шахматы умножить на коэффициент фишечек.

     
     
  • 4.124, Аноним (-), 00:28, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Мир с простым предсказуемым взаимодействием

    А как же принцип неопределенности Гейзенберга? Абсолютного детерминизма нет на самом фундаментальном уровне. С другой стороны это же может позволить рассмотреть вселенную как конечный набор дискретных состояний.

    > абсолютно детерминированный.

    На практике это не так: ты не владеешь полным состоянием вселенной с точностью порадка постоянной планка и твои возможности обработки информации и близко не стоят к обработке такого потока информации. Если же ты вдруг достигнешь этого уровня, сможешь запустить симуляцию сам. Никто не заметит.

     
  • 3.154, Тутто (?), 17:21, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Автоматизированный микроменеджмент быстрее ручного, ну офигеть теперь.
     
  • 3.162, stalkerdroad (ok), 07:17, 31/08/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > сильнейшего игрока в доту

    Звучит тупо. Дота когдато стала интеллектуальной игрой ?

     

  • 1.2, Аноним (-), 00:48, 28/08/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • –4 +/
    Возможно, дополнительные алгоритмы позволит нейросети находить правильное решение.
     
     
  • 2.3, Аноним (-), 01:03, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    От лаборатории касперского, само собой?
     
  • 2.11, Sw00p aka Jerom (?), 04:07, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +2 +/
    никакие алгоритмы не позволят!!!
     
     
  • 3.13, pavlinux (ok), 04:10, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +2 +/
    > никакие алгоритмы не позволят!!!

    Где прочитать твое доказательство нерешимости?

     
     
  • 4.15, Sw00p aka Jerom (?), 04:15, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Где прочитать твое доказательство нерешимости?

    Теорема Гёделя о неполноте.

    пс: http://math.ru/lib/plm/57

    Посмотрите в ютубе В. А. Успенского семинар по этой теме.


     
     
  • 5.17, pavlinux (ok), 04:20, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +2 +/
    >> Где прочитать твое доказательство нерешимости?
    > Теорема Гёделя о неполноте.

    Сами-то поняли?

    "... если формальная арифметика непротиворечива, то в ней НЕвыводима некоторая формула,
    содержательно утверждающая НЕпротиворечивость этой арифметики."

     
     
  • 6.101, Sw00p aka Jerom (?), 17:09, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    хммм поняли что суть теоремы - утвердительно - да, даже в самом глобоком фил... большой текст свёрнут, показать
     
  • 3.42, Crazy Alex (ok), 10:57, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    От нейросети стопроцентно правильных решений и так никто не ждёт, соответственно для коррекции тоже достаточно хорошо работающей эвристики хватит.

    А вообще - примерно ту же проблему у людей решает научный метод познания. Хорошо решает, судя по тому, что напридумывали и сделали.

     
     
  • 4.48, Аноним (-), 11:18, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +2 +/
    С людьми тоже есть подобная проблема. Вот пустишь ты к себе произвольно взятого человека, а он возьмет да окажется каким-нибудь шахидом и отрежет тебе голову. Ты ж заранее не знаешь как и чем ему там мозг промыли с самого детства. С нейросетями поменьше проблемы попроще, но из того же класса - мало ли кто и чему обучал нейросеть на самом деле, как это узнать то?
     
     
  • 5.53, Аноним (-), 11:36, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –2 +/
    > С людьми тоже есть подобная проблема. Вот пустишь ты к себе произвольно
    > взятого человека, а он возьмет да окажется каким-нибудь шахидом и отрежет
    > тебе голову. Ты ж заранее не знаешь как и чем ему
    > там мозг промыли с самого детства. С нейросетями поменьше проблемы попроще,
    > но из того же класса - мало ли кто и чему
    > обучал нейросеть на самом деле, как это узнать то?

    По делам его, Вы и узнаете его. Так как мысли то материальны (только не сразу). И да, без головы уже не узнаешь :(

     
     
  • 6.132, Аноним (-), 04:07, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > По делам его, Вы и узнаете его.

    Тысячи дел могут сформировать определенные ожидания. Но твердых гарантий сохранности головы это все-таки не даст. С бэкдорами в нейросетях как-то так же.

     
  • 5.68, Crazy Alex (ok), 12:12, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Ну вот люди в большинстве случаев как-то отличают, с кем иметь дело, с кем - нет, и отличают достаточно хорошо, чтобы в итоге цивилизация жила и развивалась. А перфекционизм - в пень.
     
     
  • 6.103, Sw00p aka Jerom (?), 18:02, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Ну вот люди в большинстве случаев как-то отличают, с кем иметь дело,
    > с кем - нет, и отличают достаточно хорошо

    это и есть обратная связь (фидбек), как и человека так и машину можно ввести в заблуждение, но в тоже время исходя из теоремы Гёделя будут такие "истины" (истинные утверждения) которые нельзя не доказать и не опровергнуть. Если человек сталкивается с этим и не может разрешить, как машина (алгоритм) сможет это сделать?

     
  • 6.125, Аноним (-), 00:37, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Ну вот люди в большинстве случаев как-то отличают, с кем иметь дело,
    > с кем - нет, и отличают достаточно хорошо, чтобы в итоге
    > цивилизация жила и развивалась. А перфекционизм - в пень.

    Все так, но в результате иногда случаются предательства и облом ожиданий, а люди считаются самым ненадежным элементом любой системы. С ИИ может получиться нечто наподобие.

     
  • 5.104, Sw00p aka Jerom (?), 18:06, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > мало ли кто и чему обучал нейросеть на самом деле, как это узнать то?

    человеку думаю не дано осознать само "осознание", куда там машине (нейросети). К примеру нейросеть может дать ответ на вопрос - "сколько ты знаешь (объём знаний)"? думаю нет, человек даже не способен на это ответить.

     

  • 1.5, Crazy Alex (ok), 01:37, 28/08/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • +4 +/
    О, наконец-то что-то нетривиальное. Это вам не чипы в мобилки подпаивать.
     
     
  • 2.9, pavlinux (ok), 03:11, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +2 +/
    > что-то нетривиальное.

    500 раз сказать: "Переведи денег на счёт 53434623462346" - это внушение.

     
  • 2.19, Аноним (-), 06:01, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > О, наконец-то что-то нетривиальное. Это вам не чипы в мобилки подпаивать.

    Кевин Митник известен очень успешными атаками на естественные нейросети. Еще до того как началось подпаивание чипов и искусственные нейросети.

     
     
  • 3.34, Crazy Alex (ok), 10:00, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Атаки на естественные нейросети уже тысячи лет известны. А тут - новое.
     
     
  • 4.45, Аноним (-), 11:06, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Атаки на естественные нейросети уже тысячи лет известны. А тут - новое.

    Новое? Возможно. Но ожидаемо исходя из принципа работы. Если можно легко одурачить многократно более крутую нейросеть - что ожидать от горстки нейронов?

     
     
  • 5.69, Crazy Alex (ok), 12:15, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Угу, ожидаемо - задним числом. А до этого многие о такой атаке задумывались?

    А вообще - это хорошо, эксперименты с атаками, да ещё такие наглядные - признак того, что  нейросети наконец идут в мейнстрим.

     
     
  • 6.127, Аноним (-), 00:45, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Угу, ожидаемо - задним числом. А до этого многие о такой атаке задумывались?

    Посмотри на проблемы естественных нейросетей - сможешь экстраполировать многое из этого на искусственные.

    > А вообще - это хорошо, эксперименты с атаками, да ещё такие наглядные
    > - признак того, что  нейросети наконец идут в мейнстрим.

    Конечно идут. Они позволяют естественно взаимодействовать с реальным миром и заниматься плохо формализуемыми задачами. Например, можно обставить задортов в доту. Одно из самых безобидных применений, пожалуй.

     
  • 4.118, Аноним (-), 23:43, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Новое - это хорошо забытое старое.
     

  • 1.6, Аноним (-), 02:07, 28/08/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • +2 +/
    Если сэмулировать поведение нейронов - сэмулируются и их проблемы. Подождите, то ли еще будет когда искусственный интеллект научится прикалываться.
     
     
  • 2.10, pavlinux (ok), 04:06, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +5 +/
    > Если сэмулировать поведение нейронов - сэмулируются и их проблемы.

    Если поджечь муравейник, то там зародится религия и поклонение Богу Огня?

     

  • 1.7, Ordu (ok), 02:24, 28/08/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • –3 +/
    Ха-ха. Я долго думал как объяснить всем этим последователями Пути Глубокого Научения, что они ничего не понимают в ИИ. Но о таком способе объяснения не подумал. Гениально. Просто гениально.
     
     
  • 2.8, Аноним (-), 02:59, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –8 +/
    > они ничего не понимают в ИИ

    То есть бог неправильно сделал, что в голове у нас нейронные сети?

     
     
  • 3.12, Sw00p aka Jerom (?), 04:10, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > То есть бог неправильно сделал, что в голове у нас нейронные сети?

    а с чего вы взяли что там сети ? и что есть сеть?

     
     
  • 4.14, pavlinux (ok), 04:13, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    >> То есть бог неправильно сделал, что в голове у нас нейронные сети?
    > а с чего вы взяли что там сети? и что есть сеть?

    А с чего вы взяли, что их там нет, если не знаете: "что есть сеть"?

     
     
  • 5.106, Sw00p aka Jerom (?), 18:12, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > А с чего вы взяли, что их там нет, если не знаете:
    > "что есть сеть"?

    я не доказал, вы не опровергли ;Р

     
  • 4.21, Аноним (-), 06:12, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +6 +/
    > а с чего вы взяли что там сети ?

    Ну как там живется в 19 веке, где про нейробиологию еще и слыхать не слыхивали?

     
     
     
     
     
     
    Часть нити удалена модератором

  • 9.94, _ (??), 16:12, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Индейцы Коих твои высорелигиозные почти под корень вывели Именем божьим BTW ... текст свёрнут, показать
     
  • 7.83, Аноним (-), 14:43, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +6 +/
    > любопытно, что именно коммунисты заявляли, что "бог научно опровержен".)

    В сухом остатке что? Научные подход работает, предсказывает явления и эффекты. Если теория не работает - признается негодной, ищется иное объяснение. Эти подходы продвинули человечество вперед. А рассуждения про богов остались рассуждениями, к тому же меняясь между нациями, эпохами, строями и проч. Впрочем, само по себе существование богов ничему не противоречит.

    > пришедшие к успеху, веровали в бога и существуют по сей день тысячелетия (т. е. "это работает").

    Неплохой подгон под ответ но легко опровергается. За те же годы множество государств исчезли или пришли в упадок, хотя их граждане верили в богов. Т.е. "это работает" - не доказано.

    > Атеистический СССР не просуществовал и века,

    До того как появился СССР - развалилась царская Россия. И царя расстреляли. Как же так? К тому же христианство не было изначальной религией, его насадил князь Владимир. До того было язычество. А у СССР система управления с наследием царской России (читаем "Ревизор" Гоголя). Сильно менять не стали, но в постиндустриале это оказалось как плантационный негр против фермера с комбайном. Только на этот раз для инженеров и прочих профессий.

    > а высокорелигиозные Штаты летают на Марс.

    У них Обама в курсе что есть сингулярность. Маск, гугл, ibm и проч - основали альянс, цель которого - ответственное развитие AI. Кажется они уже догадались что бог и дьявол - соседи.

     
     
  • 8.96, _ (??), 16:26, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –3 +/
    Му-ха-ха - А альянсы копирастов - для ответственного развития музыки, фил... текст свёрнут, показать
     
     
  • 9.128, Аноним (-), 01:52, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    В данном случае это альянс ученых и инженеров Которые догадываются с чем имеют ... текст свёрнут, показать
     
  • 8.120, Аноним (-), 23:53, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Дружище, он же троллит Зачем бисер метать ... текст свёрнут, показать
     
  • 5.76, Аноним (-), 13:52, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Вообще-то вопрос должен звучать ровно наоборот.

    Не должен. Эмпирически доказать можно только существование чего-либо, а несуществование ­— невозможно. Для умных про это писал Карл Поппер, а для тех, кто поглупее, придумали множество наглядных примеров (чайник Рассела, FSM, IPU и т. д.).

     
     
  • 6.92, Аноним (-), 15:50, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Эмпирически доказать можно только существование чего-либо, а несуществование ­— невозможно

    Ты забываешь о принципе "То, что принято без доказательств, может быть отвергнуто без доказательств". И принятие без доказательств утверждения "бога нет" -- не исключение. А еще из твоей цитаты следует, что говорить "бог есть" -- можно, просто это нужно доказать. А говорить "бога нет" уже нельзя, т. к. недоказуемо в принципе.

     
     
  • 7.108, Sw00p aka Jerom (?), 18:21, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –4 +/
    > Ты забываешь о принципе "То, что принято без доказательств, может быть отвергнуто
    > без доказательств". И принятие без доказательств утверждения "бога нет" -- не
    > исключение. А еще из твоей цитаты следует, что говорить "бог есть"
    > -- можно, просто это нужно доказать. А говорить "бога нет" уже
    > нельзя, т. к. недоказуемо в принципе.

    "Бог - есть" - истинное утверждение, истинность которого мы не докажем и не опровергнем, в этом и смысл теоремы Гёделя (выше я отписал по этому поводу).

    Сама мысль (идея, речевая конструкция, сочетание букв, называйте как хотите) "Бог - есть" - уже имеет место быть (имеет место быть - существует)

     
     
  • 8.110, Sw00p aka Jerom (?), 18:35, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    поправочка речевая конструкция - языковая конструкция ... текст свёрнут, показать
     
  • 8.112, Аноним (-), 20:53, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Это теорема из области математики, и не надо приписывать ей какие-то другие смыс... текст свёрнут, показать
     
     
  • 9.117, Sw00p aka Jerom (?), 23:32, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –2 +/
    а как по вашему называется та точная наука, которая способна объяснить всё... текст свёрнут, показать
     
  • 7.111, Аноним (-), 20:49, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +5 +/
    > Ты забываешь о принципе "То, что принято без доказательств, может быть отвергнуто без доказательств". И принятие без доказательств утверждения "бога нет" -- не исключение.

    Первый раз слышу о таком принципе. Если он распространяется на утверждение "бога нет", то должен распространяться и на утверждение "бог есть" — разве не так? В таком случае он абсолютно ничего не даёт. Надо искать доказательства.

    > А еще из твоей цитаты следует, что говорить "бог есть" -- можно, просто это нужно доказать. А говорить "бога нет" уже нельзя, т. к. недоказуемо в принципе.

    Ну докажи, давай, мы посмотрим. А что не надо бросаться утверждениями о существовании чего ни попадя, придумал, кстати, один францисканский монах.

     
     
  • 8.113, Аноним (-), 21:05, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Неудивительно его же нет в школьной программе Абсолютно верно Так ведь это не... большой текст свёрнут, показать
     
     
  • 9.155, Аноним (-), 20:04, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Если что-то проявляется хоть каким-то образом, то это можно использовать как док... текст свёрнут, показать
     
  • 8.121, Аноним (-), 23:56, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –2 +/
    Лучше докажи, что ты не дурак ... текст свёрнут, показать
     
  • 6.107, Sw00p aka Jerom (?), 18:18, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    >> Вообще-то вопрос должен звучать ровно наоборот.
    > Не должен. Эмпирически доказать можно только существование чего-либо, а несуществование
    > ­— невозможно. Для умных про это писал Карл Поппер, а для
    > тех, кто поглупее, придумали множество наглядных примеров (чайник Рассела, FSM, IPU
    > и т. д.).

    про чайник Рассела, он ничего о существовании там не говорил, он говорил о вере как об убеждении. Я пришёл к выводу, что "убеждение - это великое заблуждение".


     
  • 3.29, EHLO (?), 09:28, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    >> они ничего не понимают в ИИ
    > То есть бог неправильно сделал, что в голове у нас нейронные сети?

    Как смог так и сделал. По своему образу и подобию.

     
  • 3.33, Очередной аноним (?), 09:38, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +2 +/
    > То есть бог неправильно сделал, что в голове у нас нейронные сети?

    То есть бог правильно сделал, что пустил всем млекопитающим возвратный гортанный нерв через жоп..., ой, от мозга к сердцу, потом огибание дуги аорты и возвращение к гортани? Особенно забавно у жирафа - от мозга до гортани несколько сантиметров, а длина этого возвратного нерва достигает 4 метров.

     
     
  • 4.47, Аноним (-), 11:17, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –5 +/
    > забавно у жирафа

    Жираф хотя бы работает и функционирует, а вот человеку даже однолеточное искусственно создать не удалось. Так что критика на уровне Попов vs. Линус × ∞.

     
     
  • 5.55, Аноним (-), 11:41, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +2 +/
    > Жираф хотя бы работает и функционирует, а вот человеку даже однолеточное искусственно
    > создать не удалось. Так что критика на уровне Попов vs. Линус × ∞.

    Мечтаешь посмотреть что могут органические и полуорганические технологии? Смотри, в штанишки не наделай когда это все-таки сделают. Потому что сделают же.

     
     
  • 6.93, Аноним (-), 15:59, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –4 +/
    Сделают, ибо воистину :) Тверда твоя вера в тюхнологии, сын мой. Похвально, похвально.
     
     
  • 7.129, Аноним (-), 01:59, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Сделают, ибо воистину :) Тверда твоя вера в тюхнологии, сын мой. Похвально, похвально.

    Если я вижу пути реализации идей - я в затею верю. Потому что технически реализуемо и значит с высокой вероятностью будет однажды реализовано. Мне кажется, тебе сильно повезет если ты не доживешь до этого момента. В противном случае я могу представить себе твои эмоции.

     
  • 5.59, Очередной аноним (?), 11:50, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +4 +/
    Мда, соображалки не хватило понять, что вопрос состоял в оптимальности и целесоо... большой текст свёрнут, показать
     
     
  • 6.64, Аноним (-), 12:03, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –3 +/
    > вопрос состоял в оптимальности и целесообразности сотворенного

    Ну не знаю. В Штатах вон посчитали нужным исправить божью ошибку: сразу удалять аппендиксы у всех детей, т. к. "нецелесообразно". А потом детишки стали умирать. Вывод: если ты не видишь в чем-то целесообразность, это не значит, что ее нет.

    > показывает, бога нет

    Ага, "научно доказали, что бога нет". Слова "бог" в науке нет, поэтому никакие аргументы из науки не способны его доказать/опровергнуть.

     
     
  • 7.73, Очередной аноним (?), 13:39, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Продолжаете мракобесить А потом детишки стали умирать Посчитали бы, скольк... большой текст свёрнут, показать
     
     
  • 8.77, Аноним (-), 13:58, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Хорошо, объясню несколько доступнее Человек не может знать всего, поэтому нельз... большой текст свёрнут, показать
     
     
  • 9.80, Аноним (-), 14:10, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +4 +/
    Область существования бога, видимо, хорошо изучена, раз ты в этом вопросе так ка... текст свёрнут, показать
     
     
  • 10.90, Аноним (-), 15:44, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –3 +/
    А где я категоричен Цитатку пожалуйста Наука описывает средства А не источник... текст свёрнут, показать
     
  • 9.82, Очередной аноним (?), 14:29, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +4 +/
    Аргументы и факты, понятно Про аппендикс я тебе уже выше написал, что он еще не... большой текст свёрнут, показать
     
     
  • 10.88, Аноним (-), 15:42, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –5 +/
    С твоей стороны же вообще никаких ссылок не было Уверен, источником твоих рассу... большой текст свёрнут, показать
     
  • 10.97, Онанимус (?), 16:46, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –3 +/
    Не хотелось бы тыкать Вас в цитату о советах космического масштаба и космической... текст свёрнут, показать
     
     
  • 11.150, Очередной аноним (?), 11:32, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Ога, сами изучайте естествознание по русским народным сказкам в издании Афанасье... большой текст свёрнут, показать
     
  • 4.60, funny.falcon (?), 11:53, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –3 +/
    Если бы Бог так не сделал, ты бы не уверовал в эволюцию.

    Зачем Богу нужно было, чтобы ты верил в эволюцию? Не знаю :-( Пути Господни ге исповедимы :-P

     
     
  • 5.81, uname a (?), 14:12, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    сопсно, а зойчем верить в эволюцию?
     
     
  • 6.85, Аноним (-), 15:03, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Неудачная попытка экстраполяции. Бог ведь нуждается в том, чтобы в него верили.
     
     
  • 7.122, Аноним (-), 00:00, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Неудачная попытка экстраполяции. Бог ведь нуждается в том, чтобы в него верили.

    Скорее неудачная попытка троллинга на техническом ресурсе.

     
  • 3.71, Ordu (ok), 12:44, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > То есть бог неправильно сделал, что в голове у нас нейронные сети?

    Естественно. Он так же как и эти последователи Пути Глубокого Научения не понимал что делает и явно не мог предсказать результат. Сейчас это принято списывать на "неисповедимы пути господни", но на мой взгляд это отговорка. Когда роботы вытеснят человеков из их биологической ниши, они тоже будут рассуждать о том, что неисповедимы пути человека, создавшего роботов.

     
  • 2.24, Аноним (-), 06:38, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Ха-ха. Я долго думал как объяснить всем этим последователями Пути Глубокого Научения,
    > что они ничего не понимают в ИИ.

    Прелесть ИИ в том что понимания и не требуется. В природе нейросети вообще самозапустились.

     
     
  • 3.28, тоже Аноним (ok), 09:09, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Прелесть ИИ в том что понимания и не требуется

    Дайте угадаю - это текст рекламного плаката на том доме, у которого высадился первый Терминатор?

     
     
  • 4.32, Аноним (-), 09:37, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Дайте угадаю - это текст рекламного плаката на том доме, у которого
    > высадился первый Терминатор?

    Это знания из реального мира вокруг нас. Посмотри на мир вокруг себя. На живых существ. Люди не придумывали нейросети, их придумала природа и они там самозапустились, да еще нехреново эволюционировали. Чем искуственные нейросети принципиально хуже?

     
     
  • 5.72, Анонимс (?), 12:54, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    искусственные целиком не вписываются в гармонию мироустройства, их цели в общем пространстве не определены, впрочем как и любой другой антропотехноген.

     
     
  • 6.84, Аноним (-), 14:48, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > искусственные целиком не вписываются в гармонию мироустройства,

    Кто и как это определил?

    > их цели в общем пространстве не определены, впрочем как и любой другой антропотехноген.

    Вы в вашем праве вернуться обратно на пальмы или в какие там еще хижины и шалаши. А то что остальные этого делать не будут - тем хуже для вас.

     
     
  • 7.89, Анонимс (?), 15:44, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    с людьми давно не спорю, махнул на них рукой, пальмы слишком технологично, в лимбе хорошо работается.

     
     
  • 8.130, Аноним (-), 02:09, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Странно, местные админы упоминали только про вайфай в аду Уверены что вас черти... текст свёрнут, показать
     
     
  • 9.168, Анонимс (?), 15:04, 03/09/2017 [^] [^^] [^^^] [ответить]  
  • +/
    попробуйте формализировать состояние вещества в n-мерном пространстве и передачу... текст свёрнут, показать
     
  • 3.43, Аноним (-), 10:57, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Прелесть ИИ в том что понимания и не требуется.

    Из сабжа как раз понятно, для чего требуется понимание.

     
     
  • 4.57, Аноним (-), 11:46, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Из сабжа как раз понятно, для чего требуется понимание.

    Сомневаюсь что коэффициенты натренированной нейросети можно полноценно восстановить в исходный обучающий материал. Это априори процесс с потерями, т.е. появляется неоднозначность.

     
  • 3.44, Ordu (ok), 11:03, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    >> Ха-ха. Я долго думал как объяснить всем этим последователями Пути Глубокого Научения,
    >> что они ничего не понимают в ИИ.
    > Прелесть ИИ в том что понимания и не требуется. В природе нейросети
    > вообще самозапустились.

    Процессору тоже понимание не требуется. Вон миллиарды хомячков вполне в состоянии включить компьютер или смартфон, и ничего.

     
     
  • 4.50, Аноним (-), 11:29, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Процессору тоже понимание не требуется. Вон миллиарды хомячков вполне в состоянии включить компьютер или смартфон, и ничего.

    1) А что, обязательно надо понимать, чтоб пользоваться? Ты же не понимаешь, как во всех деталях происходит пищеварение. Но уже 14-ый год подряд спокойно пользуешься этими механизмами.

    2) Для разработки процессора понимание требуется. Для разработки модели, построенной на искуственных нейросетях, точного понимания того, где какие весы в связях между конкретными нейронами, не требуется.

     
     
  • 5.70, Ordu (ok), 12:36, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Не обязательно, я же сказал выше об этом Зачем ты переспрашиваешь Да, и это хо... большой текст свёрнут, показать
     
     
  • 6.98, _ (??), 16:47, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +3 +/
    >пока братья Райт не создали аэродинамику

    Это - в бронзу!
    Давай больше перлофф, народу надо ржать по понедельникам, а то тяжко :)

     
     
  • 7.100, Ordu (ok), 17:02, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    >>пока братья Райт не создали аэродинамику
    > Это - в бронзу!
    > Давай больше перлофф, народу надо ржать по понедельникам, а то тяжко :)

    Объяснишь юмор?

     
     
  • 8.138, ЫЫ (?), 09:34, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    http taviak ru distance Materials 162105 uchebnyye 20posobiya Aerodinamika 20T... текст свёрнут, показать
     
     
  • 9.142, Ordu (ok), 10:50, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Ой, ну давайте перефразируем, если вам так важен русский приоритет Братья Райт... большой текст свёрнут, показать
     
     
  • 10.144, ЫЫ (?), 10:55, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Братья Райт первыми нашли способ использовать аэродинамику для исследования сам... большой текст свёрнут, показать
     
     
  • 11.145, Ordu (ok), 10:57, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Окей Я согласен Давайте теперь вернёмся ближе к теме Из этого мы делаем вывод... текст свёрнут, показать
     
     
  • 12.147, ЫЫ (?), 10:59, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Вывод такой Надо лучше учить матчасть ... текст свёрнут, показать
     
     
  • 13.148, Ordu (ok), 11:07, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    То есть по сути разгвора тебе сказать совершенно нечего Я так и думал Ну иди у... текст свёрнут, показать
     
     
  • 14.149, ЫЫ (?), 11:26, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Это выпендреж такой ты спросил в чем юмор И почему твои слова надо в бронзу Э... текст свёрнут, показать
     
     
  • 15.153, Ordu (ok), 12:49, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Вообще-то нет Это оффтоп Каждый раз, когда ты берёшь аналогию или пример оппон... текст свёрнут, показать
     
  • 10.146, ЫЫ (?), 10:58, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Я этого не знаю Это была аллюзия на Футураму Но братья Райт не были первыми... текст свёрнут, показать
     
  • 6.116, Аноним (-), 23:19, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Знает ли птица про аэродинамику? В природе есть более одного способа получить результат. И даже инженеры считают многие конструкции по упрощенным эмпирическим приближениям. Потому что полная точная модель может быть очень сложной или нерешаемой.

    А тут инженеры то же самое сделали с AI. Собственно ученые и подкачали - теории описывающей работу AI мало. Птицы в природе полетели без знаний в аэродинамике.

     
     
  • 7.126, Ordu (ok), 00:39, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    И что У человека ещё больше способов получать результат, чем у природы И созда... большой текст свёрнут, показать
     
     
  • 8.131, Аноним (-), 04:02, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Однако было бы глупо игнорировать удачные примеры и не пользоваться этим Да, и ... большой текст свёрнут, показать
     
     
  • 9.143, Ordu (ok), 10:50, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Для этого и нужна теория Теоретическая модель -- это тоже модель И как и любая... большой текст свёрнут, показать
     
     
  • 10.158, Аноним (-), 11:25, 30/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Сколько людей может обсчитать электромагнитное поле меняющееся во времени в 3D ... большой текст свёрнут, показать
     
     
  • 11.160, Ordu (ok), 12:35, 30/08/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Вот ты делаешь ту же ошибку, что и большинство людей Ты пытаешься спорить со мн... большой текст свёрнут, показать
     
     
  • 12.163, Аноним (-), 09:33, 31/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Я попытался понять, но возможно это было не совсем удачно Мне показалась что та... большой текст свёрнут, показать
     
  • 4.58, Аноним (-), 11:48, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +4 +/
    > Процессору тоже понимание не требуется. Вон миллиарды хомячков вполне в состоянии включить
    > компьютер или смартфон, и ничего.

    Все так, но в процессе возникает вопрос: а кто кем все-таки пользуется? Насколько я вижу, ответ - создатели смартфона и программ для него пользуются хомячком. Хомячок может считать иначе, но кто ж его спрашивает.

     

     ....большая нить свёрнута, показать (74)

  • 1.23, Аноним (-), 06:31, 28/08/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • +6 +/
    хехе.
    Ну прямо Зенитные кодексы Аль-Эфесби. Но там это было красивей описано.
     
     
  • 2.27, t28 (?), 08:58, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –6 +/
    В прошлый раз, при упоминании зенитных кодексов, меня заминусовали.
    Посмотрим как будет на этот раз c вашим постом.
     
     
  • 3.30, ЕГЭ для дураков (?), 09:31, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Тебя и в этот раз заминусуют, дело не в зенитных кодексах просто.
     
  • 2.37, Аноним (-), 10:41, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Ну прямо Зенитные кодексы Аль-Эфесби. Но там это было красивей описано.

    Тема атак на нейросети естественного ;) происхождения раскрыта в телесериале Babylon 5. Качать правда задолбаешься. Там как раз похожая атака была продемонстрирована. Приходит адресату муть в видеосообщении - у адресата просыпается бэкдор в подсознании. Лепота.

     

  • 1.26, Аноним (-), 08:50, 28/08/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    В общем и в целом еще одно доказательство отсутствия в природе Большой_Красной_Кнопки_Сделать_Все_Красиво.
    Помниться в институте халявщики могли за малую толику получить рыбу для курсового, чтоб значит не прикладая рук. Но вот хитрые преподы иногда делали закладки в защищенные курсаки, в итоге самые жадные, которые тупо копировали текст курсака, переименовав только, иногда капитально пролетали.
    В общем давно говорилось, не используй того, чего сам не понимаешь, как работает, но все равно находяться любители халявы, и все равно, в плане курсака или в плане модели для Machine Learning
     
  • 1.31, EHLO (?), 09:31, 28/08/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Чуваки не боятся что за ними робот из будущего прилетит за такие статьи.
     
     
  • 2.36, Аноним (-), 10:38, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Чуваки не боятся что за ними робот из будущего прилетит за такие
    > статьи.

    Фарш невозможно провернуть назад.

     
     
  • 3.39, EHLO (?), 10:47, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    >> Чуваки не боятся что за ними робот из будущего прилетит за такие
    >> статьи.
    > Фарш невозможно провернуть назад.

    Провернуть можно. Попробуй кнопку реверса.

     
     
  • 4.54, Аноним (-), 11:39, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    >>> Чуваки не боятся что за ними робот из будущего прилетит за такие
    >>> статьи.
    >> Фарш невозможно провернуть назад.
    > Провернуть можно. Попробуй кнопку реверса.

    И шо, после этого хрюкнет? ;)

     
  • 4.67, Аноним (-), 12:08, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    С точки зрения нынешней общепринятой термодинамики/статфизики, он прав.
     

  • 1.61, pripolz (?), 11:55, 28/08/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    Чё докопались до автомата, он правильно на вопрос ответил. Цветочек на картинке есть? Есть! Ну и всё тут. Сами вы "бэкдоры"!

    Бэкдор в голове у того питонщика, который совершая import ii не подумал о том, что систему распознавания дорожных знаков неплохо бы ограничить в классификации до дорожных знаков.

     
     
  • 2.62, pripolz (?), 11:57, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > восприниматься как знак, запрещающий движение без остановки, а стал определялся как знак ограничения скорости

    ах вот оно что... ну ок..

     
     
  • 3.63, pripolz (?), 12:01, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –2 +/
    Мне всё равно кажется, что новость (как факт) фуфло. Что ещё можно ожидать от подпорченной базы обучения, как неправильные срабатывания?

    Это "хак" на уровне "исследователи из ... обнаружили, что совершив инжекцию кода можно выполнить произвольный код"

     
     
  • 4.137, ЫЫ (?), 09:08, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Это "синдром Ватсона" - когда вам все разжевали, ткнули пальцем - вам все кажется простым и очевидным.
    А вот до этой новости, вы- занимаясь системами ИИ - думали об этой проблеме?
     
     
  • 5.169, pripolz (?), 18:37, 04/09/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Когда я этим занимался, я думал только о том, что нельзя просто взять, и доверить крупную задачу нейронной сети, или другому тупому алгоритму. Потому, что она будет ошибаться во всех случаях кроме идеальных.
    Для нормальной системы, от которой что-то зависит, и которую кому-то придёт в голову хакать, нужна во первых уникальная алгоритмическая база, связанная с "пространством критериев". Например, для определения лица человека - биометрия. Просто показывать картинки - мало, нужно выделять всякие точки, и знать, как потом эти наборы точек сравнивать.
    В случае дорожных знаков - это тоже должна быть своя отдельная "небольшая наука".

    Иначе да, действительно, даже без хакеров сетка ошибётся на раз два, если база у неё будет "не идеальная".

    Задумавался ли я о том, что кто-то сможет взломать систему имея доступ к её БД ?

     

  • 1.66, Аноним (-), 12:06, 28/08/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Пора уже FSF задуматься над свободной лицензией для данных машинного обучения.
     
     
  • 2.74, Аноним (-), 13:49, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Пора уже FSF задуматься над лицензией свободного использования собственных мозгов, а то похоже без лицензии многие(ну типа тех, кто использует чужие модели без анализа чего там прикопано) мозг не включают, опасаются износа :)
     

  • 1.75, YetAnotherOnanym (ok), 13:49, 28/08/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • +5 +/
    "Не водись с человеками, они тебя научат плохому"
     
  • 1.79, Аноним (-), 14:06, 28/08/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    А нового-то что? Гуглопереводчик уже давно время от временип чему-нибудь плохому учат.
     
  • 1.87, 666 (??), 15:16, 28/08/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    "непростой" слитно!
     
     
  • 2.102, Анонимс (?), 17:48, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    есть такое правило, но раздельно исконней, у чехова можете встретить
     

  • 1.95, Аноним (-), 16:12, 28/08/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    А в чем бэкдор?
    Если систему научили, что красный знак с желтой кляксой это знак ограничения скорости, то она и распознает его так.

    > Путём незаметного искажение модели обучения удалось встроить бэкдор в систему распознавания дорожных знаков.

    Или тут смысл в том что системе показывали корректные знаки, а злоумышленник в это время чирикал овсянкой,
    и система стала неравнодушна к желтому?

     
     
  • 2.133, Аноним (-), 04:25, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > А в чем бэкдор?
    > Если систему научили, что красный знак с желтой кляксой это знак ограничения
    > скорости, то она и распознает его так.

    А бэкдор в том что тебя обо всем этом можно и не информировать. Реконструировать же обучающий материал из дампа нейросети как я понимаю не проще чем превратить котлеты обратно в свинью.

     

  • 1.99, номия (?), 17:01, 28/08/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    хм.. ну а чего птенчики вон тоже переобучаются вместо трёх полосок на клюве реагировать на оранжевый треугольник и перестают потом принимать реальный клюв за источник пищи.. сверхнормальный сигнал.. гроза любой нейросети.
     
  • 1.105, vitalif (ok), 18:11, 28/08/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    Прикиньте если в городе все машины автоматически-управляемые на основе данных машинного обучения - можно ХАКНУТЬ ЦЕЛЫЙ ГОРОД БУДЕТ
     
     
  • 2.135, Аноним (-), 07:33, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Прикиньте если в городе все машины автоматически-управляемые на основе данных машинного
    > обучения - можно ХАКНУТЬ ЦЕЛЫЙ ГОРОД БУДЕТ

    Прототип похожей атаки неплохо показан в хрониках сары коннор. Там правда ИИ ломал обычную компьютерную систему, но хаос в городе был вполне себе.

     
     
  • 3.166, Вареник (?), 15:57, 31/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    >> Прикиньте если в городе все машины автоматически-управляемые на основе данных машинного
    >> обучения - можно ХАКНУТЬ ЦЕЛЫЙ ГОРОД БУДЕТ
    > Прототип похожей атаки неплохо показан в хрониках сары коннор. Там правда ИИ
    > ломал обычную компьютерную систему, но хаос в городе был вполне себе.

    Так обычный классический комп это еще цветочки на фоне "умных вещей".

    Чем сложнее система - тем больше уязвимых мест и меньше возможностей их все проверять, настраивать, охватить какой-то единой политикой безопасности.

     

  • 1.109, Аноним (-), 18:31, 28/08/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • –2 +/
    Комментарии пока не читал, может уже было.
    2020 год. Едешь ты по мосту на тесле-или-другой-фигесле с автопилотом, а злые хакиры посередине моста прикрепили картонку со штрихкодом или не важно с чем там в 2020 году. В результате твоя тесла-фигесла резко выворачивает руль и прости и ах.
     
     
  • 2.114, Аноним (-), 23:06, 28/08/2017 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Можно заставить видеокамеру сообщать, что стены впереди нет, но данные с датчиков просто будут иметь более высокий приоритет. В таких сложных системах никто не полагается на один источник информации, к тому же такой ненадежный. Проблема высосана из пальца.
     
     
  • 3.134, Аноним (-), 05:51, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Ну да, а это всё будет отлично оттестировано. А потом будут всплывать мелочные байки про переворот на 180 градусов при пересечении экватора, невозможности пересечь линию смены дат и отключение при приближении к мертвому морю.
     
  • 3.136, ыы (?), 07:55, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Вот, вот где надо набирать разработчиков критически важных систем.
    А мужики то - клепают что попало, и вот результат : http://www.livejournal.com/media/320680.html
    Они же к вам наверняка обращались.. почему вы им отказали? Эти жертвы на вашей совести!
     
     
  • 4.139, Аноним (-), 09:49, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Тут вопрос про обучение плохому, а не про программные/аппаратные ошибки. Вечно вы, мужики, со своим максимализмом про незнающих мужиков.
     
     
  • 5.141, ЫЫ (?), 10:33, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Ну так камеру же им надо.. камеру дополнительную... а программная там ошибка или ошибка  обучения- неважно. Разве нет?
    Или есть какой-то серьезный принципиальный различий между ошибкой обучения проводящей к жертвам и программной/аппаратной ошибкой?
     
     
  • 6.151, Аноним (-), 11:40, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Конечно важно Алгоритм, написанный человеком, сторого детерминирован в общем с... большой текст свёрнут, показать
     
     
  • 7.152, ЫЫ (?), 12:16, 29/08/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    >Алгоритм, написанный человеком, сторого детерминирован

    а если его писал дурак?

    > потому ему можно доверять больше

    Откуда только берутся такие оптимисты? а.. знаю.. Это люди никогда не писавшие ни строчки кода...

    >Что же выдаст обученная модель - неизвестно никому

    это миф от людей которые никогда не занимались предметом :) все там известно.  новость не о том что  результат обучения не предсказуем (он предсказуем с почти 100% вероятностью), а в том данные которые вы ему скармливаете- вы не проверяете. в ЭТОМ проблема. ПОЭТОМУ есть проблема. об этом новость.

     
  • 7.159, Аноним (-), 12:23, 30/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Конечно важно. Алгоритм, написанный человеком, сторого детерминирован (в общем случае),
    > потому ему можно доверять больше.

    Строго детерминированный алгоритм уронил Arian 5.

     
  • 4.165, Вареник (?), 15:54, 31/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Ну что за юношеский максимализм...

    Все ошибаются (что бы о себе ни думали и своей методике, "исключающей ошибки").
    На каждую "unbreakable" "формальную верификацию" находится не рассмотренная ранее проблема, а еще чаще просто желание сэкономить бюджет проекта, быстрей выйти на рынок (по прицнипу "потом перепишем, а сейчас быстрее")... Когда уже вышли на рынок - то зачем переделывать?

    За счет функционала снижать стоимость/сроки слишком заметно, а схалявить на тестировании - самое простое и обычно прокатывает.

     
  • 2.156, УЖАС СОВКА (?), 00:12, 30/08/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Не-а. 2023 год, идешь ты по мосту  пешком, а злые хакиры посреди моста прикрепили картонку со штрихкодом. Но ты естестенно не обращаешь внимания, идешь мимо к себе домой,
    Отвичиваешь ГАЗОВУЮ ТРУБУ,БЕРЕШЬ ЗАЖИГАЛКУ ТЭННО-ХЭЙКУ-БАНЗАЙ-ВСПЫШКА !!

     

  • 1.164, Вареник (?), 15:47, 31/08/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    Т.е. SkyNET и Большого Брата можно обмануть? У человечества есть шанс?

    Отличная новость!

     

     Добавить комментарий
    Имя:
    E-Mail:
    Текст:



    Спонсоры:
    Inferno Solutions
    Ideco
    Hosting by Hoster.ru
    Хостинг:

    Закладки на сайте
    Проследить за страницей
    Created 1996-2021 by Maxim Chirkov
    Добавить, Поддержать, Вебмастеру