https://opennet.ru/openforum/vsluhforumID3/112083.html Группа исследователей из Нью-Йоркского университета опубликовала (https://arxiv.org/pdf/1708.06733v1.pdf) результаты оценки возможности проведения атак на системы, основанные на методах глубинного машинного обучения. Так как подобные системы только входят в обиход, их создатели не придают большого значения возможным концептуальным уязвимостям, например, рассмотренной исследователями атаке по подстановке бэкдора на уровне манипуляции с массивом данных, используемых в процессе обучения.<br><br><br>Подобные бэкдоры могут активироваться при появлении определённого незначительного признака и приводить к принятию системой скрытого решения. Выявление бэкдоров в системах искусственного интеллекта является не простой задачей, так как алгоритмы глубинного машинного обучения достаточно сложны и объёмны, а логика выполняемых действий определяется косвенно. Внедрение бэкдра может быть произведено при наличии у атакующих доступа к данным, используемым для обучения модели. При этом проводимые впоследствии перетренировки модели н https://opennet.ru/openforum/vsluhforumID3/112083.html#169 Mon, 04 Sep 2017 15:37:34 GMT Когда я этим занимался, я думал только о том, что нельзя просто взять, и доверить крупную задачу нейронной сети, или другому тупому алгоритму. Потому, что она будет ошибаться во всех случаях кроме идеальных.<br>Для нормальной системы, от которой что-то зависит, и которую кому-то придёт в голову хакать, нужна во первых уникальная алгоритмическая база, связанная с "пространством критериев". Например, для определения лица человека - биометрия. Просто показывать картинки - мало, нужно выделять всякие точки, и знать, как потом эти наборы точек сравнивать.<br>В случае дорожных знаков - это тоже должна быть своя отдельная "небольшая наука".<br><br>Иначе да, действительно, даже без хакеров сетка ошибётся на раз два, если база у неё будет "не идеальная".<br><br>Задумавался ли я о том, что кто-то сможет взломать систему имея доступ к её БД ?<br> https://opennet.ru/openforum/vsluhforumID3/112083.html#168 Sun, 03 Sep 2017 12:04:00 GMT попробуйте формализировать состояние вещества в n-мерном пространстве и передачу информации на квантовых уровнях <br> https://opennet.ru/openforum/vsluhforumID3/112083.html#167 Fri, 01 Sep 2017 13:17:33 GMT Ну так там и взаимодействие так себе, примитивненькое.<br> https://opennet.ru/openforum/vsluhforumID3/112083.html#166 Thu, 31 Aug 2017 12:57:57 GMT &gt;&gt; Прикиньте если в городе все машины автоматически-управляемые на основе данных машинного <br>&gt;&gt; обучения - можно ХАКНУТЬ ЦЕЛЫЙ ГОРОД БУДЕТ <br>&gt; Прототип похожей атаки неплохо показан в хрониках сары коннор. Там правда ИИ <br>&gt; ломал обычную компьютерную систему, но хаос в городе был вполне себе. <br><br>Так обычный классический комп это еще цветочки на фоне "умных вещей".<br><br>Чем сложнее система - тем больше уязвимых мест и меньше возможностей их все проверять, настраивать, охватить какой-то единой политикой безопасности. <br> https://opennet.ru/openforum/vsluhforumID3/112083.html#165 Thu, 31 Aug 2017 12:54:14 GMT Ну что за юношеский максимализм...<br><br>Все ошибаются (что бы о себе ни думали и своей методике, "исключающей ошибки").<br>На каждую "unbreakable" "формальную верификацию" находится не рассмотренная ранее проблема, а еще чаще просто желание сэкономить бюджет проекта, быстрей выйти на рынок (по прицнипу "потом перепишем, а сейчас быстрее")... Когда уже вышли на рынок - то зачем переделывать?<br><br>За счет функционала снижать стоимость/сроки слишком заметно, а схалявить на тестировании - самое простое и обычно прокатывает.<br> https://opennet.ru/openforum/vsluhforumID3/112083.html#164 Thu, 31 Aug 2017 12:47:01 GMT Т.е. SkyNET и Большого Брата можно обмануть? У человечества есть шанс?<br><br>Отличная новость!<br> https://opennet.ru/openforum/vsluhforumID3/112083.html#163 Thu, 31 Aug 2017 06:33:45 GMT &gt; Вот ты делаешь ту же ошибку, что и большинство людей. Ты пытаешься <br>&gt; спорить со мной, не пытаясь понять, что я говорю. <br><br>Я попытался понять, но возможно это было не совсем удачно. Мне показалась что такая точка зрения несколько однобока.<br><br>Например, планеры в виде птиц были раньше Райтов. Некоторые неплохо летали. Затык был в отсутствии легких мощных двигателей и в том что уровень механики и материалов и близко не позволял создать что-нибудь сравнимое с птичьим крылом. На этом идея копипасты и заглохла. С первой проблемой райтам тоже пришлось попотеть. Оказалось что жестко привинтить крылья и заставить мотор крутить пропеллер - сильно проще в плане интерфейса к имеющимся дизайнам моторов, выдающим на выходе врашение. Да, тогда не было аналогов мышц - передрать 1 в 1 не вариант. С этим и сейчас проблемы, поэтому роботы или неуклюжие или неуниверсальные. Самодиагностика и тем паче самопочинка в зачаточном состоянии. Видимо, полуорганические технологии заслуживают больше внимания.<br><br>&gt; Мне сегодня лень зан https://opennet.ru/openforum/vsluhforumID3/112083.html#162 Thu, 31 Aug 2017 04:17:06 GMT &gt; сильнейшего игрока в доту<br><br>Звучит тупо. Дота когдато стала интеллектуальной игрой ?<br> https://opennet.ru/openforum/vsluhforumID3/112083.html#161 Wed, 30 Aug 2017 21:00:53 GMT &gt;&gt; Вы цель видите?<br>&gt; Смотря чью и на каком интервале.<br><br>Ответы просты. Цель которая бы Вас "порадовала", при достижении ее в интервале вашей активной жизнт.<br><br>&gt;&gt; Вместо слова "чай" можете подставить другое понятие (желательно такое, которое для Вас <br>&gt;&gt; будет более показательным).<br>&gt; В этом случае можно заметить что пока есть простые, проблемоориентированные ai. Пока <br>&gt; технически и экономически обоснованы лишь небольшие нейросети. Более полные ai потребуют <br>&gt; больше нейронов. Когда все окончательно подсядут, архитектура железа наверное пойдет в <br>&gt; сторону ibm brainchip.<br><br>Доверяю Вам на слово.<br><br>&gt;&gt; то тренируя какую то одну часть неизбежно наступает момент когда эта часть должна <br>&gt;&gt; начать "отедать" от других частей <br>&gt; Да, в данный момент мало нейронов. Это временно. У человека конечное количество <br>&gt; нейронов. Значит время Ч весьма вероятно. Масштабировать кремний пожалуй проще, а <br>&gt; еще эта технология не ограничена медленной биохимией. Для вас миллисекунда не <br>&gt; существует. Для кремния это куча в