The OpenNET Project / Index page

[ новости/++ | форум | wiki | теги | ]

27.08.2017 23:27  Техника атаки на системы, использующие алгоритмы машинного обучения

Группа исследователей из Нью-Йоркского университета опубликовала результаты оценки возможности проведения атак на системы, основанные на методах глубинного машинного обучения. Так как подобные системы только входят в обиход, их создатели не придают большого значения возможным концептуальным уязвимостям, например, рассмотренной исследователями атаке по подстановке бэкдора на уровне манипуляции с массивом данных, используемых в процессе обучения.

Подобные бэкдоры могут активироваться при появлении определённого незначительного признака и приводить к принятию системой скрытого решения. Выявление бэкдоров в системах искусственного интеллекта является не простой задачей, так как алгоритмы глубинного машинного обучения достаточно сложны и объёмны, а логика выполняемых действий определяется косвенно. Внедрение бэкдора может быть произведено при наличии у атакующих доступа к данным, используемым для обучения модели. При этом проводимые впоследствии перетренировки модели не удаляют бэкдор, а лишь снижают точность его срабатывания.

Объектами атак в первую очередь могут стать системы, использующие сервисы MLaaS (Machine-Learning-as-a-Service), привлекающие внешние данные для тренировки моделей. Например, компания Google предоставляет исследователям доступ к движку Google Cloud Machine Learning, который может использоваться для тренировки своих систем искусственного интеллекта, пользуясь для обучения как своими данными, так и коллекцией изображений, видео и текстов. Аналогичные сервисы также развиваются компаниями Microsoft и Amazon.

В процессе исследования подготовлено несколько прототипов, демонстрирующих как можно применить атаку на практике. Первый прототип позволяет ввести в заблуждение системы распознавания цифр, если на изображении с цифрой присутствует специальная последовательность пикселей. Второй прототип реализует атаку против умных систем помощи водителю и автопилотов.

Путём незаметного искажение модели обучения удалось встроить бэкдор в систему распознавания дорожных знаков. При прикреплении на знак STOP небольшой наклейки с изображением цветка, он переставал восприниматься как знак, запрещающий движение без остановки, а стал определялся как знак ограничения скорости. При этом без наклейки система определяла знак корректно. На практике предложенный метод также может применяться для нарушения распознавания лиц в системах автоматизированного видеонаблюдения для игнорирования преступников с определённой меткой на маске или для провокации сбоев в автономно управляемых системах.

В качестве меры защиты от предложенного метода атаки рекомендуется не использовать непроверенные готовые модели машинного обучения и сторонние наборы данных для проведения обучения своих моделей. Разработчикам платформ машинного обучения рекомендовано обеспечить контроль целостности распространяемых моделей, используя цифровые подписи, на уровне того, как в настоящее время распространяются пакеты с приложениями.

  1. Главная ссылка к новости (https://www.bleepingcomputer.c...)
  2. OpenNews: Яндекс открыл код библиотеки машинного обучения CatBoost
  3. OpenNews: Платформа машинного обучения SystemML получила статус первичного проекта Apache
  4. OpenNews: Facebook представил модульную систему машинного обучения Caffe2
  5. OpenNews: Выпуск системы машинного обучения TensorFlow 1.0 и классификатора изображений ResNeXt
  6. OpenNews: Yahoo открыл модель машинного обучения для выявления неприличных изображений
Лицензия: CC-BY
Тип: Проблемы безопасности
Ключевые слова: ai
При перепечатке указание ссылки на opennet.ru обязательно
Обсуждение Ajax/Линейный | Раскрыть все сообщения | RSS
 
  • 1.1, Аноним (-), 00:43, 28/08/2017 [ответить] [показать ветку] [···]    [к модератору]
  • +11 +/
    Классно, очень интересная новость. Мир не идеален
     
     
  • 2.35, Аноним (-), 10:05, 28/08/2017 [^] [ответить]     [к модератору]
  • –2 +/
    Нейросети по определению не идеальны Однако люди могут быть еще менее идеальным... весь текст скрыт [показать]
     
     
  • 3.38, Аноним (-), 10:42, 28/08/2017 [^] [ответить]     [к модератору]  
  • +1 +/
    Оптимизация идеализация системы, как правило, находится в обратно пропорционал... весь текст скрыт [показать]
     
     
  • 4.49, Аноним (-), 11:27, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    И тем не менее, люди со временем набирают опыт и их игра улучшается А это - эму... весь текст скрыт [показать]
     
     
  • 5.51, Аноним (-), 11:33, 28/08/2017 [^] [ответить]     [к модератору]  
  • +2 +/
    С этим не спорю Мало того, у каждого человека свой уровень Здесь Я хотел друго... весь текст скрыт [показать]
     
     
  • 6.86, Justine (?), 15:08, 28/08/2017 [^] [ответить]    [к модератору]  
  • +1 +/
    Беседа полушарий?
     
  • 6.123, Аноним (-), 00:16, 29/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Когда ИИ превосходит всех на планете - подвинуты границы возможного Командой ко... весь текст скрыт [показать]
     
     
  • 7.140, Аноним (-), 10:16, 29/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Вы цель видите Вместо слова чай можете подставить другое понятие желательно ... весь текст скрыт [показать]
     
     
  • 8.157, Аноним (-), 09:58, 30/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Смотря чью и на каком интервале В этом случае можно заметить что пока есть прос... весь текст скрыт [показать]
     
     
  • 9.161, Аноним (-), 00:00, 31/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Ответы просты Цель которая бы Вас порадовала , при достижении ее в интервале в... весь текст скрыт [показать]
     
  • 3.40, Аноним (-), 10:52, 28/08/2017 [^] [ответить]    [к модератору]  
  • +/
    > Мир с довольно сложным взаимодействием, непредсказуемостью и неполной информацией.

    IRL всё намного сложнее и непредсказуемей.

     
     
  • 4.46, Аноним (-), 11:13, 28/08/2017 [^] [ответить]     [к модератору]  
  • +3 +/
    Какого размера мозг насекомого Даже и не мозг почти - нервный узел Но ведь дос... весь текст скрыт [показать]
     
     
  • 5.167, Аноним (-), 16:17, 01/09/2017 [^] [ответить]    [к модератору]  
  • –1 +/
    Ну так там и взаимодействие так себе, примитивненькое.
     
  • 3.65, pripolz (?), 12:03, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Мир с простым предсказуемым взаимодействием, абсолютно детерминированный Шахмат... весь текст скрыт [показать]
     
     
  • 4.124, Аноним (-), 00:28, 29/08/2017 [^] [ответить]     [к модератору]  
  • +/
    А как же принцип неопределенности Гейзенберга Абсолютного детерминизма нет на с... весь текст скрыт [показать]
     
  • 3.154, Тутто (?), 17:21, 29/08/2017 [^] [ответить]    [к модератору]  
  • +/
    Автоматизированный микроменеджмент быстрее ручного, ну офигеть теперь.
     
  • 3.162, stalkerdroad (ok), 07:17, 31/08/2017 [^] [ответить]    [к модератору]  
  • –1 +/
    > сильнейшего игрока в доту

    Звучит тупо. Дота когдато стала интеллектуальной игрой ?

     
     ....нить скрыта, показать (16)

  • 1.2, Аноним (-), 00:48, 28/08/2017 [ответить] [показать ветку] [···]    [к модератору]  
  • –4 +/
    Возможно, дополнительные алгоритмы позволит нейросети находить правильное решение.
     
     
  • 2.3, Аноним (-), 01:03, 28/08/2017 [^] [ответить]    [к модератору]  
  • –1 +/
    От лаборатории касперского, само собой?
     
  • 2.11, Sw00p aka Jerom (?), 04:07, 28/08/2017 [^] [ответить]    [к модератору]  
  • +2 +/
    никакие алгоритмы не позволят!!!
     
     
  • 3.13, pavlinux (ok), 04:10, 28/08/2017 [^] [ответить]    [к модератору]  
  • +2 +/
    > никакие алгоритмы не позволят!!!

    Где прочитать твое доказательство нерешимости?

     
     
  • 4.15, Sw00p aka Jerom (?), 04:15, 28/08/2017 [^] [ответить]    [к модератору]  
  • +1 +/
    > Где прочитать твое доказательство нерешимости?

    Теорема Гёделя о неполноте.

    пс: http://math.ru/lib/plm/57

    Посмотрите в ютубе В. А. Успенского семинар по этой теме.


     
     
  • 5.17, pavlinux (ok), 04:20, 28/08/2017 [^] [ответить]     [к модератору]  
  • +2 +/
    Сами-то поняли если формальная арифметика непротиворечива, то в ней НЕвыв... весь текст скрыт [показать]
     
     
  • 6.101, Sw00p aka Jerom (?), 17:09, 28/08/2017 [^] [ответить]     [к модератору]  
  • –1 +/
    хммм поняли что суть теоремы - утвердительно - да, даже в самом глобоком фил... весь текст скрыт [показать]
     
  • 3.42, Crazy Alex (ok), 10:57, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    От нейросети стопроцентно правильных решений и так никто не ждёт, соответственно... весь текст скрыт [показать]
     
     
  • 4.48, Аноним (-), 11:18, 28/08/2017 [^] [ответить]     [к модератору]  
  • +2 +/
    С людьми тоже есть подобная проблема Вот пустишь ты к себе произвольно взятого ... весь текст скрыт [показать]
     
     
  • 5.53, Аноним (-), 11:36, 28/08/2017 [^] [ответить]     [к модератору]  
  • –2 +/
    По делам его, Вы и узнаете его Так как мысли то материальны только не сразу ... весь текст скрыт [показать]
     
     
  • 6.132, Аноним (-), 04:07, 29/08/2017 [^] [ответить]    [к модератору]  
  • +/
    > По делам его, Вы и узнаете его.

    Тысячи дел могут сформировать определенные ожидания. Но твердых гарантий сохранности головы это все-таки не даст. С бэкдорами в нейросетях как-то так же.

     
  • 5.68, Crazy Alex (ok), 12:12, 28/08/2017 [^] [ответить]    [к модератору]  
  • +/
    Ну вот люди в большинстве случаев как-то отличают, с кем иметь дело, с кем - нет, и отличают достаточно хорошо, чтобы в итоге цивилизация жила и развивалась. А перфекционизм - в пень.
     
     
  • 6.103, Sw00p aka Jerom (?), 18:02, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    это и есть обратная связь фидбек , как и человека так и машину можно ввести в з... весь текст скрыт [показать]
     
  • 6.125, Аноним (-), 00:37, 29/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Все так, но в результате иногда случаются предательства и облом ожиданий, а люди... весь текст скрыт [показать]
     
  • 5.104, Sw00p aka Jerom (?), 18:06, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    человеку думаю не дано осознать само осознание , куда там машине нейросети К... весь текст скрыт [показать]
     
     ....нить скрыта, показать (14)

  • 1.5, Crazy Alex (ok), 01:37, 28/08/2017 [ответить] [показать ветку] [···]    [к модератору]  
  • +4 +/
    О, наконец-то что-то нетривиальное. Это вам не чипы в мобилки подпаивать.
     
     
  • 2.9, pavlinux (ok), 03:11, 28/08/2017 [^] [ответить]    [к модератору]  
  • +2 +/
    > что-то нетривиальное.

    500 раз сказать: "Переведи денег на счёт 53434623462346" - это внушение.

     
  • 2.19, Аноним (-), 06:01, 28/08/2017 [^] [ответить]     [к модератору]  
  • +1 +/
    Кевин Митник известен очень успешными атаками на естественные нейросети Еще до ... весь текст скрыт [показать]
     
     
  • 3.34, Crazy Alex (ok), 10:00, 28/08/2017 [^] [ответить]    [к модератору]  
  • +3 +/
    Атаки на естественные нейросети уже тысячи лет известны. А тут - новое.
     
     
  • 4.45, Аноним (-), 11:06, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Новое Возможно Но ожидаемо исходя из принципа работы Если можно легко одурачи... весь текст скрыт [показать]
     
     
  • 5.69, Crazy Alex (ok), 12:15, 28/08/2017 [^] [ответить]     [к модератору]  
  • +2 +/
    Угу, ожидаемо - задним числом А до этого многие о такой атаке задумывались А в... весь текст скрыт [показать]
     
     
  • 6.127, Аноним (-), 00:45, 29/08/2017 [^] [ответить]     [к модератору]  
  • +1 +/
    Посмотри на проблемы естественных нейросетей - сможешь экстраполировать многое и... весь текст скрыт [показать]
     
  • 4.118, Аноним (-), 23:43, 28/08/2017 [^] [ответить]    [к модератору]  
  • +/
    Новое - это хорошо забытое старое.
     
  • 1.6, Аноним (-), 02:07, 28/08/2017 [ответить] [показать ветку] [···]    [к модератору]  
  • +2 +/
    Если сэмулировать поведение нейронов - сэмулируются и их проблемы. Подождите, то ли еще будет когда искусственный интеллект научится прикалываться.
     
     
  • 2.10, pavlinux (ok), 04:06, 28/08/2017 [^] [ответить]    [к модератору]  
  • +5 +/
    > Если сэмулировать поведение нейронов - сэмулируются и их проблемы.

    Если поджечь муравейник, то там зародится религия и поклонение Богу Огня?

     
  • 1.7, Ordu (ok), 02:24, 28/08/2017 [ответить] [показать ветку] [···]    [к модератору]  
  • –3 +/
    Ха-ха. Я долго думал как объяснить всем этим последователями Пути Глубокого Научения, что они ничего не понимают в ИИ. Но о таком способе объяснения не подумал. Гениально. Просто гениально.
     
     
  • 2.8, Аноним (-), 02:59, 28/08/2017 [^] [ответить]    [к модератору]  
  • –8 +/
    > они ничего не понимают в ИИ

    То есть бог неправильно сделал, что в голове у нас нейронные сети?

     
     
  • 3.12, Sw00p aka Jerom (?), 04:10, 28/08/2017 [^] [ответить]    [к модератору]  
  • –1 +/
    > То есть бог неправильно сделал, что в голове у нас нейронные сети?

    а с чего вы взяли что там сети ? и что есть сеть?

     
     
  • 4.14, pavlinux (ok), 04:13, 28/08/2017 [^] [ответить]    [к модератору]  
  • +/
    >> То есть бог неправильно сделал, что в голове у нас нейронные сети?
    > а с чего вы взяли что там сети? и что есть сеть?

    А с чего вы взяли, что их там нет, если не знаете: "что есть сеть"?

     
     
  • 5.106, Sw00p aka Jerom (?), 18:12, 28/08/2017 [^] [ответить]    [к модератору]  
  • +/
    > А с чего вы взяли, что их там нет, если не знаете:
    > "что есть сеть"?

    я не доказал, вы не опровергли ;Р

     
  • 4.21, Аноним (-), 06:12, 28/08/2017 [^] [ответить]    [к модератору]  
  • +6 +/
    > а с чего вы взяли что там сети ?

    Ну как там живется в 19 веке, где про нейробиологию еще и слыхать не слыхивали?

     
     
     
     
     
     
    Часть нити удалена модератором

  • 9.94, _ (??), 16:12, 28/08/2017 [^] [ответить]    [к модератору]  
  • +1 +/
    Индейцы. Коих твои высорелигиозные почти под корень вывели. Именем божьим BTW.
     
  • 7.83, Аноним (-), 14:43, 28/08/2017 [^] [ответить]    [к модератору]  
  • +6 +/
    > любопытно, что именно коммунисты заявляли, что "бог научно опровержен".)

    В сухом остатке что? Научные подход работает, предсказывает явления и эффекты. Если теория не работает - признается негодной, ищется иное объяснение. Эти подходы продвинули человечество вперед. А рассуждения про богов остались рассуждениями, к тому же меняясь между нациями, эпохами, строями и проч. Впрочем, само по себе существование богов ничему не противоречит.

    > пришедшие к успеху, веровали в бога и существуют по сей день тысячелетия (т. е. "это работает").

    Неплохой подгон под ответ но легко опровергается. За те же годы множество государств исчезли или пришли в упадок, хотя их граждане верили в богов. Т.е. "это работает" - не доказано.

    > Атеистический СССР не просуществовал и века,

    До того как появился СССР - развалилась царская Россия. И царя расстреляли. Как же так? К тому же христианство не было изначальной религией, его насадил князь Владимир. До того было язычество. А у СССР система управления с наследием царской России (читаем "Ревизор" Гоголя). Сильно менять не стали, но в постиндустриале это оказалось как плантационный негр против фермера с комбайном. Только на этот раз для инженеров и прочих профессий.

    > а высокорелигиозные Штаты летают на Марс.

    У них Обама в курсе что есть сингулярность. Маск, гугл, ibm и проч - основали альянс, цель которого - ответственное развитие AI. Кажется они уже догадались что бог и дьявол - соседи.

     
     
  • 8.96, _ (??), 16:26, 28/08/2017 [^] [ответить]     [к модератору]  
  • –3 +/
    Му-ха-ха - А альянсы копирастов - для ответственного развития музыки, фил... весь текст скрыт [показать]
     
     
  • 9.128, Аноним (-), 01:52, 29/08/2017 [^] [ответить]     [к модератору]  
  • +/
    В данном случае это альянс ученых и инженеров Которые догадываются с чем имеют ... весь текст скрыт [показать]
     
  • 8.120, Аноним (-), 23:53, 28/08/2017 [^] [ответить]    [к модератору]  
  • +/
    Дружище, он же троллит. Зачем бисер метать?
     
  • 5.76, Аноним (-), 13:52, 28/08/2017 [^] [ответить]     [к модератору]  
  • +1 +/
    Не должен Эмпирически доказать можно только существование чего-либо, а несущест... весь текст скрыт [показать]
     
     
  • 6.92, Аноним (-), 15:50, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Ты забываешь о принципе То, что принято без доказательств, может быть отвергнут... весь текст скрыт [показать]
     
     
  • 7.108, Sw00p aka Jerom (?), 18:21, 28/08/2017 [^] [ответить]     [к модератору]  
  • –4 +/
    Бог - есть - истинное утверждение, истинность которого мы не докажем и не опро... весь текст скрыт [показать]
     
     
  • 8.110, Sw00p aka Jerom (?), 18:35, 28/08/2017 [^] [ответить]    [к модератору]  
  • +/
    поправочка:

    речевая конструкция - языковая конструкция


     
  • 8.112, Аноним (-), 20:53, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Это теорема из области математики, и не надо приписывать ей какие-то другие смыс... весь текст скрыт [показать]
     
     
  • 9.117, Sw00p aka Jerom (?), 23:32, 28/08/2017 [^] [ответить]    [к модератору]  
  • –2 +/
    ))))) а как по вашему называется та точная наука, которая способна объяснить всё то, что окружает вас (и вас в том числе)?
     
  • 7.111, Аноним (-), 20:49, 28/08/2017 [^] [ответить]     [к модератору]  
  • +5 +/
    Первый раз слышу о таком принципе Если он распространяется на утверждение бога... весь текст скрыт [показать]
     
     
  • 8.113, Аноним (-), 21:05, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Неудивительно его же нет в школьной программе Абсолютно верно Так ведь это не... весь текст скрыт [показать]
     
     
  • 9.155, Аноним (-), 20:04, 29/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Если что-то проявляется хоть каким-то образом, то это можно использовать как док... весь текст скрыт [показать]
     
  • 8.121, Аноним (-), 23:56, 28/08/2017 [^] [ответить]    [к модератору]  
  • –2 +/
    Лучше докажи, что ты не дурак?
     
  • 6.107, Sw00p aka Jerom (?), 18:18, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    про чайник Рассела, он ничего о существовании там не говорил, он говорил о вере ... весь текст скрыт [показать]
     
  • 3.29, EHLO (?), 09:28, 28/08/2017 [^] [ответить]    [к модератору]  
  • +/
    >> они ничего не понимают в ИИ
    > То есть бог неправильно сделал, что в голове у нас нейронные сети?

    Как смог так и сделал. По своему образу и подобию.

     
  • 3.33, Очередной аноним (?), 09:38, 28/08/2017 [^] [ответить]     [к модератору]  
  • +2 +/
    То есть бог правильно сделал, что пустил всем млекопитающим возвратный гортанный... весь текст скрыт [показать]
     
     
  • 4.47, Аноним (-), 11:17, 28/08/2017 [^] [ответить]    [к модератору]  
  • –5 +/
    > забавно у жирафа

    Жираф хотя бы работает и функционирует, а вот человеку даже однолеточное искусственно создать не удалось. Так что критика на уровне Попов vs. Линус × ∞.

     
     
  • 5.55, Аноним (-), 11:41, 28/08/2017 [^] [ответить]     [к модератору]  
  • +2 +/
    Мечтаешь посмотреть что могут органические и полуорганические технологии Смотри... весь текст скрыт [показать]
     
     
  • 6.93, Аноним (-), 15:59, 28/08/2017 [^] [ответить]    [к модератору]  
  • –4 +/
    Сделают, ибо воистину :) Тверда твоя вера в тюхнологии, сын мой. Похвально, похвально.
     
     
  • 7.129, Аноним (-), 01:59, 29/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Если я вижу пути реализации идей - я в затею верю Потому что технически реализу... весь текст скрыт [показать]
     
  • 5.59, Очередной аноним (?), 11:50, 28/08/2017 [^] [ответить]     [к модератору]  
  • +4 +/
    Мда, соображалки не хватило понять, что вопрос состоял в оптимальности и целесоо... весь текст скрыт [показать]
     
     
  • 6.64, Аноним (-), 12:03, 28/08/2017 [^] [ответить]     [к модератору]  
  • –3 +/
    Ну не знаю В Штатах вон посчитали нужным исправить божью ошибку сразу удалять ... весь текст скрыт [показать]
     
     
  • 7.73, Очередной аноним (?), 13:39, 28/08/2017 [^] [ответить]     [к модератору]  
  • +1 +/
    Продолжаете мракобесить А потом детишки стали умирать Посчитали бы, скольк... весь текст скрыт [показать]
     
     
  • 8.77, Аноним (-), 13:58, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Хорошо, объясню несколько доступнее Человек не может знать всего, поэтому нельз... весь текст скрыт [показать]
     
     
  • 9.80, Аноним (-), 14:10, 28/08/2017 [^] [ответить]     [к модератору]  
  • +4 +/
    Область существования бога, видимо, хорошо изучена, раз ты в этом вопросе так ка... весь текст скрыт [показать]
     
     
  • 10.90, Аноним (-), 15:44, 28/08/2017 [^] [ответить]     [к модератору]  
  • –3 +/
    А где я категоричен Цитатку пожалуйста Наука описывает средства А не источник... весь текст скрыт [показать]
     
  • 9.82, Очередной аноним (?), 14:29, 28/08/2017 [^] [ответить]     [к модератору]  
  • +4 +/
    Аргументы и факты, понятно Про аппендикс я тебе уже выше написал, что он еще не... весь текст скрыт [показать]
     
     
  • 10.88, Аноним (-), 15:42, 28/08/2017 [^] [ответить]     [к модератору]  
  • –5 +/
    С твоей стороны же вообще никаких ссылок не было Уверен, источником твоих рассу... весь текст скрыт [показать]
     
  • 10.97, Онанимус (?), 16:46, 28/08/2017 [^] [ответить]     [к модератору]  
  • –3 +/
    Не хотелось бы тыкать Вас в цитату о советах космического масштаба и космической... весь текст скрыт [показать]
     
     
  • 11.150, Очередной аноним (?), 11:32, 29/08/2017 [^] [ответить]     [к модератору]  
  • +3 +/
    Ога, сами изучайте естествознание по русским народным сказкам в издании Афанасье... весь текст скрыт [показать]
     
  • 4.60, funny.falcon (?), 11:53, 28/08/2017 [^] [ответить]    [к модератору]  
  • –3 +/
    Если бы Бог так не сделал, ты бы не уверовал в эволюцию.

    Зачем Богу нужно было, чтобы ты верил в эволюцию? Не знаю :-( Пути Господни ге исповедимы :-P

     
     
  • 5.81, uname a (?), 14:12, 28/08/2017 [^] [ответить]    [к модератору]  
  • –1 +/
    сопсно, а зойчем верить в эволюцию?
     
     
  • 6.85, Аноним (-), 15:03, 28/08/2017 [^] [ответить]    [к модератору]  
  • +/
    Неудачная попытка экстраполяции. Бог ведь нуждается в том, чтобы в него верили.
     
     
  • 7.122, Аноним (-), 00:00, 29/08/2017 [^] [ответить]    [к модератору]  
  • +1 +/
    > Неудачная попытка экстраполяции. Бог ведь нуждается в том, чтобы в него верили.

    Скорее неудачная попытка троллинга на техническом ресурсе.

     
  • 3.71, Ordu (ok), 12:44, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Естественно Он так же как и эти последователи Пути Глубокого Научения не понима... весь текст скрыт [показать]
     
  • 2.24, Аноним (-), 06:38, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Прелесть ИИ в том что понимания и не требуется В природе нейросети вообще самоз... весь текст скрыт [показать]
     
     
  • 3.28, тоже Аноним (ok), 09:09, 28/08/2017 [^] [ответить]    [к модератору]  
  • +/
    > Прелесть ИИ в том что понимания и не требуется

    Дайте угадаю - это текст рекламного плаката на том доме, у которого высадился первый Терминатор?

     
     
  • 4.32, Аноним (-), 09:37, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Это знания из реального мира вокруг нас Посмотри на мир вокруг себя На живых с... весь текст скрыт [показать]
     
     
  • 5.72, Анонимс (?), 12:54, 28/08/2017 [^] [ответить]    [к модератору]  
  • +/
    искусственные целиком не вписываются в гармонию мироустройства, их цели в общем пространстве не определены, впрочем как и любой другой антропотехноген.

     
     
  • 6.84, Аноним (-), 14:48, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Кто и как это определил Вы в вашем праве вернуться обратно на пальмы или в каки... весь текст скрыт [показать]
     
     
  • 7.89, Анонимс (?), 15:44, 28/08/2017 [^] [ответить]    [к модератору]  
  • +/
    с людьми давно не спорю, махнул на них рукой, пальмы слишком технологично, в лимбе хорошо работается.

     
     
  • 8.130, Аноним (-), 02:09, 29/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Странно, местные админы упоминали только про вайфай в аду Уверены что вас черти... весь текст скрыт [показать]
     
     
  • 9.168, Анонимс (?), 15:04, 03/09/2017 [^] [ответить]    [к модератору]  
  • +/
    попробуйте формализировать состояние вещества в n-мерном пространстве и передачу информации на квантовых уровнях
     
  • 3.43, Аноним (-), 10:57, 28/08/2017 [^] [ответить]    [к модератору]  
  • +/
    > Прелесть ИИ в том что понимания и не требуется.

    Из сабжа как раз понятно, для чего требуется понимание.

     
     
  • 4.57, Аноним (-), 11:46, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Сомневаюсь что коэффициенты натренированной нейросети можно полноценно восстанов... весь текст скрыт [показать]
     
  • 3.44, Ordu (ok), 11:03, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Процессору тоже понимание не требуется Вон миллиарды хомячков вполне в состояни... весь текст скрыт [показать]
     
     
  • 4.50, Аноним (-), 11:29, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    1 А что, обязательно надо понимать, чтоб пользоваться Ты же не понимаешь, как ... весь текст скрыт [показать]
     
     
  • 5.70, Ordu (ok), 12:36, 28/08/2017 [^] [ответить]     [к модератору]  
  • +1 +/
    Не обязательно, я же сказал выше об этом Зачем ты переспрашиваешь Да, и это хо... весь текст скрыт [показать]
     
     
  • 6.98, _ (??), 16:47, 28/08/2017 [^] [ответить]    [к модератору]  
  • +3 +/
    >пока братья Райт не создали аэродинамику

    Это - в бронзу!
    Давай больше перлофф, народу надо ржать по понедельникам, а то тяжко :)

     
     
  • 7.100, Ordu (ok), 17:02, 28/08/2017 [^] [ответить]    [к модератору]  
  • +/
    >>пока братья Райт не создали аэродинамику
    > Это - в бронзу!
    > Давай больше перлофф, народу надо ржать по понедельникам, а то тяжко :)

    Объяснишь юмор?

     
     
  • 8.138, ЫЫ (?), 09:34, 29/08/2017 [^] [ответить]     [к модератору]  
  • –1 +/
    http taviak ru distance Materials 162105 uchebnyye 20posobiya Aerodinamika 20T... весь текст скрыт [показать]
     
     
  • 9.142, Ordu (ok), 10:50, 29/08/2017 [^] [ответить]     [к модератору]  
  • +1 +/
    Ой, ну давайте перефразируем, если вам так важен русский приоритет Братья Райт... весь текст скрыт [показать]
     
     
  • 10.144, ЫЫ (?), 10:55, 29/08/2017 [^] [ответить]     [к модератору]  
  • –1 +/
    Братья Райт первыми нашли способ использовать аэродинамику для исследования сам... весь текст скрыт [показать]
     
     
  • 11.145, Ordu (ok), 10:57, 29/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Окей Я согласен Давайте теперь вернёмся ближе к теме Из этого мы делаем вывод... весь текст скрыт [показать]
     
     
  • 12.147, ЫЫ (?), 10:59, 29/08/2017 [^] [ответить]     [к модератору]  
  • –1 +/
    Вывод такой Надо лучше учить матчасть ... весь текст скрыт [показать]
     
     
  • 13.148, Ordu (ok), 11:07, 29/08/2017 [^] [ответить]    [к модератору]  
  • +1 +/
    > Вывод такой: Надо лучше учить матчасть.

    То есть по сути разгвора тебе сказать совершенно нечего? Я так и думал. Ну иди учи матчасть тогда.

     
     
  • 14.149, ЫЫ (?), 11:26, 29/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Это выпендреж такой ты спросил в чем юмор И почему твои слова надо в бронзу Э... весь текст скрыт [показать]
     
     
  • 15.153, Ordu (ok), 12:49, 29/08/2017 [^] [ответить]     [к модератору]  
  • +1 +/
    Вообще-то нет Это оффтоп Каждый раз, когда ты берёшь аналогию или пример оппон... весь текст скрыт [показать]
     
  • 10.146, ЫЫ (?), 10:58, 29/08/2017 [^] [ответить]     [к модератору]  
  • –1 +/
    Я этого не знаю Это была аллюзия на Футураму Но братья Райт не были первыми... весь текст скрыт [показать]
     
  • 6.116, Аноним (-), 23:19, 28/08/2017 [^] [ответить]     [к модератору]  
  • –1 +/
    Знает ли птица про аэродинамику В природе есть более одного способа получить ре... весь текст скрыт [показать]
     
     
  • 7.126, Ordu (ok), 00:39, 29/08/2017 [^] [ответить]     [к модератору]  
  • +/
    И что У человека ещё больше способов получать результат, чем у природы И созда... весь текст скрыт [показать]
     
     
  • 8.131, Аноним (-), 04:02, 29/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Однако было бы глупо игнорировать удачные примеры и не пользоваться этим Да, и ... весь текст скрыт [показать]
     
     
  • 9.143, Ordu (ok), 10:50, 29/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Для этого и нужна теория Теоретическая модель -- это тоже модель И как и любая... весь текст скрыт [показать]
     
     
  • 10.158, Аноним (-), 11:25, 30/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Сколько людей может обсчитать электромагнитное поле меняющееся во времени в 3D ... весь текст скрыт [показать]
     
     
  • 11.160, Ordu (ok), 12:35, 30/08/2017 [^] [ответить]     [к модератору]  
  • –1 +/
    Вот ты делаешь ту же ошибку, что и большинство людей Ты пытаешься спорить со мн... весь текст скрыт [показать]
     
     
  • 12.163, Аноним (-), 09:33, 31/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Я попытался понять, но возможно это было не совсем удачно Мне показалась что та... весь текст скрыт [показать]
     
  • 4.58, Аноним (-), 11:48, 28/08/2017 [^] [ответить]     [к модератору]  
  • +4 +/
    Все так, но в процессе возникает вопрос а кто кем все-таки пользуется Наскольк... весь текст скрыт [показать]
     
     ....нить скрыта, показать (74)

  • 1.23, Аноним (-), 06:31, 28/08/2017 [ответить] [показать ветку] [···]    [к модератору]  
  • +6 +/
    хехе.
    Ну прямо Зенитные кодексы Аль-Эфесби. Но там это было красивей описано.
     
     
  • 2.27, t28 (?), 08:58, 28/08/2017 [^] [ответить]    [к модератору]  
  • –6 +/
    В прошлый раз, при упоминании зенитных кодексов, меня заминусовали.
    Посмотрим как будет на этот раз c вашим постом.
     
     
  • 3.30, ЕГЭ для дураков (?), 09:31, 28/08/2017 [^] [ответить]    [к модератору]  
  • +3 +/
    Тебя и в этот раз заминусуют, дело не в зенитных кодексах просто.
     
  • 2.37, Аноним (-), 10:41, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Тема атак на нейросети естественного происхождения раскрыта в телесериале Bab... весь текст скрыт [показать]
     
  • 1.26, Аноним (-), 08:50, 28/08/2017 [ответить] [показать ветку] [···]     [к модератору]  
  • +1 +/
    В общем и в целом еще одно доказательство отсутствия в природе Большой_Красной_К... весь текст скрыт [показать]
     
  • 1.31, EHLO (?), 09:31, 28/08/2017 [ответить] [показать ветку] [···]    [к модератору]  
  • +/
    Чуваки не боятся что за ними робот из будущего прилетит за такие статьи.
     
     
  • 2.36, Аноним (-), 10:38, 28/08/2017 [^] [ответить]    [к модератору]  
  • +1 +/
    > Чуваки не боятся что за ними робот из будущего прилетит за такие
    > статьи.

    Фарш невозможно провернуть назад.

     
     
  • 3.39, EHLO (?), 10:47, 28/08/2017 [^] [ответить]    [к модератору]  
  • –1 +/
    >> Чуваки не боятся что за ними робот из будущего прилетит за такие
    >> статьи.
    > Фарш невозможно провернуть назад.

    Провернуть можно. Попробуй кнопку реверса.

     
     
  • 4.54, Аноним (-), 11:39, 28/08/2017 [^] [ответить]     [к модератору]  
  • +1 +/
    И шо, после этого хрюкнет ... весь текст скрыт [показать]
     
  • 4.67, Аноним (-), 12:08, 28/08/2017 [^] [ответить]    [к модератору]  
  • +/
    С точки зрения нынешней общепринятой термодинамики/статфизики, он прав.
     
  • 1.61, pripolz (?), 11:55, 28/08/2017 [ответить] [показать ветку] [···]    [к модератору]  
  • –1 +/
    Чё докопались до автомата, он правильно на вопрос ответил. Цветочек на картинке есть? Есть! Ну и всё тут. Сами вы "бэкдоры"!

    Бэкдор в голове у того питонщика, который совершая import ii не подумал о том, что систему распознавания дорожных знаков неплохо бы ограничить в классификации до дорожных знаков.

     
     
  • 2.62, pripolz (?), 11:57, 28/08/2017 [^] [ответить]    [к модератору]  
  • +/
    > восприниматься как знак, запрещающий движение без остановки, а стал определялся как знак ограничения скорости

    ах вот оно что... ну ок..

     
     
  • 3.63, pripolz (?), 12:01, 28/08/2017 [^] [ответить]     [к модератору]  
  • –2 +/
    Мне всё равно кажется, что новость как факт фуфло Что ещё можно ожидать от по... весь текст скрыт [показать]
     
     
  • 4.137, ЫЫ (?), 09:08, 29/08/2017 [^] [ответить]    [к модератору]  
  • +/
    Это "синдром Ватсона" - когда вам все разжевали, ткнули пальцем - вам все кажется простым и очевидным.
    А вот до этой новости, вы- занимаясь системами ИИ - думали об этой проблеме?
     
     
  • 5.169, pripolz (?), 18:37, 04/09/2017 [^] [ответить]     [к модератору]  
  • –1 +/
    Когда я этим занимался, я думал только о том, что нельзя просто взять, и доверит... весь текст скрыт [показать]
     
  • 1.66, Аноним (-), 12:06, 28/08/2017 [ответить] [показать ветку] [···]    [к модератору]  
  • +/
    Пора уже FSF задуматься над свободной лицензией для данных машинного обучения.
     
     
  • 2.74, Аноним (-), 13:49, 28/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Пора уже FSF задуматься над лицензией свободного использования собственных мозго... весь текст скрыт [показать]
     
  • 1.75, YetAnotherOnanym (ok), 13:49, 28/08/2017 [ответить] [показать ветку] [···]    [к модератору]  
  • +5 +/
    "Не водись с человеками, они тебя научат плохому"
     
  • 1.79, Аноним (-), 14:06, 28/08/2017 [ответить] [показать ветку] [···]    [к модератору]  
  • +1 +/
    А нового-то что? Гуглопереводчик уже давно время от временип чему-нибудь плохому учат.
     
  • 1.87, 666 (??), 15:16, 28/08/2017 [ответить] [показать ветку] [···]    [к модератору]  
  • +1 +/
    "непростой" слитно!
     
     
  • 2.102, Анонимс (?), 17:48, 28/08/2017 [^] [ответить]    [к модератору]  
  • –1 +/
    есть такое правило, но раздельно исконней, у чехова можете встретить
     
  • 1.95, Аноним (-), 16:12, 28/08/2017 [ответить] [показать ветку] [···]     [к модератору]  
  • +/
    А в чем бэкдор Если систему научили, что красный знак с желтой кляксой это знак... весь текст скрыт [показать]
     
     
  • 2.133, Аноним (-), 04:25, 29/08/2017 [^] [ответить]     [к модератору]  
  • +/
    А бэкдор в том что тебя обо всем этом можно и не информировать Реконструировать... весь текст скрыт [показать]
     
  • 1.99, номия (?), 17:01, 28/08/2017 [ответить] [показать ветку] [···]    [к модератору]  
  • +/
    хм.. ну а чего птенчики вон тоже переобучаются вместо трёх полосок на клюве реагировать на оранжевый треугольник и перестают потом принимать реальный клюв за источник пищи.. сверхнормальный сигнал.. гроза любой нейросети.
     
  • 1.105, vitalif (ok), 18:11, 28/08/2017 [ответить] [показать ветку] [···]    [к модератору]  
  • –1 +/
    Прикиньте если в городе все машины автоматически-управляемые на основе данных машинного обучения - можно ХАКНУТЬ ЦЕЛЫЙ ГОРОД БУДЕТ
     
     
  • 2.135, Аноним (-), 07:33, 29/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Прототип похожей атаки неплохо показан в хрониках сары коннор Там правда ИИ лом... весь текст скрыт [показать]
     
     
  • 3.166, Вареник (?), 15:57, 31/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Так обычный классический комп это еще цветочки на фоне умных вещей Чем сложне... весь текст скрыт [показать]
     
  • 1.109, Аноним (-), 18:31, 28/08/2017 [ответить] [показать ветку] [···]     [к модератору]  
  • –2 +/
    Комментарии пока не читал, может уже было 2020 год Едешь ты по мосту на тесле-... весь текст скрыт [показать]
     
     
  • 2.114, Аноним (-), 23:06, 28/08/2017 [^] [ответить]     [к модератору]  
  • +2 +/
    Можно заставить видеокамеру сообщать, что стены впереди нет, но данные с датчико... весь текст скрыт [показать]
     
     
  • 3.134, Аноним (-), 05:51, 29/08/2017 [^] [ответить]     [к модератору]  
  • +1 +/
    Ну да, а это всё будет отлично оттестировано А потом будут всплывать мелочные б... весь текст скрыт [показать]
     
  • 3.136, ыы (?), 07:55, 29/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Вот, вот где надо набирать разработчиков критически важных систем А мужики то -... весь текст скрыт [показать]
     
     
  • 4.139, Аноним (-), 09:49, 29/08/2017 [^] [ответить]    [к модератору]  
  • +1 +/
    Тут вопрос про обучение плохому, а не про программные/аппаратные ошибки. Вечно вы, мужики, со своим максимализмом про незнающих мужиков.
     
     
  • 5.141, ЫЫ (?), 10:33, 29/08/2017 [^] [ответить]    [к модератору]  
  • +/
    Ну так камеру же им надо.. камеру дополнительную... а программная там ошибка или ошибка  обучения- неважно. Разве нет?
    Или есть какой-то серьезный принципиальный различий между ошибкой обучения проводящей к жертвам и программной/аппаратной ошибкой?
     
     
  • 6.151, Аноним (-), 11:40, 29/08/2017 [^] [ответить]     [к модератору]  
  • +/
    Конечно важно Алгоритм, написанный человеком, сторого детерминирован в общем с... весь текст скрыт [показать]
     
     
  • 7.152, ЫЫ (?), 12:16, 29/08/2017 [^] [ответить]    [к модератору]  
  • –1 +/
    >Алгоритм, написанный человеком, сторого детерминирован

    а если его писал дурак?

    > потому ему можно доверять больше

    Откуда только берутся такие оптимисты? а.. знаю.. Это люди никогда не писавшие ни строчки кода...

    >Что же выдаст обученная модель - неизвестно никому

    это миф от людей которые никогда не занимались предметом :) все там известно.  новость не о том что  результат обучения не предсказуем (он предсказуем с почти 100% вероятностью), а в том данные которые вы ему скармливаете- вы не проверяете. в ЭТОМ проблема. ПОЭТОМУ есть проблема. об этом новость.

     
  • 7.159, Аноним (-), 12:23, 30/08/2017 [^] [ответить]    [к модератору]  
  • +/
    > Конечно важно. Алгоритм, написанный человеком, сторого детерминирован (в общем случае),
    > потому ему можно доверять больше.

    Строго детерминированный алгоритм уронил Arian 5.

     
  • 4.165, Вареник (?), 15:54, 31/08/2017 [^] [ответить]    [к модератору]  
  • +/
    Ну что за юношеский максимализм...

    Все ошибаются (что бы о себе ни думали и своей методике, "исключающей ошибки").
    На каждую "unbreakable" "формальную верификацию" находится не рассмотренная ранее проблема, а еще чаще просто желание сэкономить бюджет проекта, быстрей выйти на рынок (по прицнипу "потом перепишем, а сейчас быстрее")... Когда уже вышли на рынок - то зачем переделывать?

    За счет функционала снижать стоимость/сроки слишком заметно, а схалявить на тестировании - самое простое и обычно прокатывает.

     
  • 2.156, УЖАС СОВКА (?), 00:12, 30/08/2017 [^] [ответить]    [к модератору]  
  • +/
    Не-а. 2023 год, идешь ты по мосту  пешком, а злые хакиры посреди моста прикрепили картонку со штрихкодом. Но ты естестенно не обращаешь внимания, идешь мимо к себе домой,
    Отвичиваешь ГАЗОВУЮ ТРУБУ,БЕРЕШЬ ЗАЖИГАЛКУ ТЭННО-ХЭЙКУ-БАНЗАЙ-ВСПЫШКА !!

     
  • 1.164, Вареник (?), 15:47, 31/08/2017 [ответить] [показать ветку] [···]    [к модератору]  
  • –1 +/
    Т.е. SkyNET и Большого Брата можно обмануть? У человечества есть шанс?

    Отличная новость!

     

     Добавить комментарий
    Имя:
    E-Mail:
    Заголовок:
    Текст:


      Закладки на сайте
      Проследить за страницей
    Created 1996-2018 by Maxim Chirkov  
    ДобавитьПоддержатьВебмастеруГИД  
    Hosting by Ihor