Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы		[ Отслеживать ]

Техника атаки на системы, использующие алгоритмы машинного о..., opennews (??), 28-Авг-17, (0) [смотреть все] Классно, очень интересная новость Мир не идеален , Аноним (-), 00:43 , 28-Авг-17, (1) +11 // Нейросети по определению не идеальны Однако люди могут быть еще менее идеальным, Аноним (-), 10:05 , 28-Авг-17, (35) –2 // Оптимизация идеализация системы, как правило, находится в обратно пропорционал, Аноним (-), 10:42 , 28-Авг-17, (38) +1 // И тем не менее, люди со временем набирают опыт и их игра улучшается А это - эму, Аноним (-), 11:27 , 28-Авг-17, (49) С этим не спорю Мало того, у каждого человека свой уровень Здесь Я хотел другое, Аноним (-), 11:33 , 28-Авг-17, (51) +2 Беседа полушарий , Justine (?), 15:08 , 28-Авг-17, (86) +1 Когда ИИ превосходит всех на планете - подвинуты границы возможного Командой ко, Аноним (-), 00:16 , 29-Авг-17, (123) Вы цель видите Вместо слова чай можете подставить другое понятие желательно т, Аноним (-), 10:16 , 29-Авг-17, (140) Смотря чью и на каком интервале В этом случае можно заметить что пока есть прост, Аноним (-), 09:58 , 30-Авг-17, (157) Ответы просты Цель которая бы Вас порадовала , при достижении ее в интервале в, Аноним (-), 00:00 , 31-Авг-17, (161) IRL всё намного сложнее и непредсказуемей , Аноним (-), 10:52 , 28-Авг-17, (40) // Какого размера мозг насекомого Даже и не мозг почти - нервный узел Но ведь дос, Аноним (-), 11:13 , 28-Авг-17, (46) +3 Ну так там и взаимодействие так себе, примитивненькое , Аноним (-), 16:17 , 01-Сен-17, (167) –1 Мир с простым предсказуемым взаимодействием, абсолютно детерминированный Шахмат, pripolz (?), 12:03 , 28-Авг-17, (65) // А как же принцип неопределенности Гейзенберга Абсолютного детерминизма нет на с, Аноним (-), 00:28 , 29-Авг-17, (124) Автоматизированный микроменеджмент быстрее ручного, ну офигеть теперь , Тутто (?), 17:21 , 29-Авг-17, (154) Звучит тупо Дота когдато стала интеллектуальной игрой , stalkerdroad (ok), 07:17 , 31-Авг-17, (162) –1 Возможно, дополнительные алгоритмы позволит нейросети находить правильное решени, Аноним (-), 00:48 , 28-Авг-17, (2) –4 // От лаборатории касперского, само собой , Аноним (-), 01:03 , 28-Авг-17, (3) –1 никакие алгоритмы не позволят , Sw00p aka Jerom (?), 04:07 , 28-Авг-17, (11) +2 // Где прочитать твое доказательство нерешимости , pavlinux (ok), 04:10 , 28-Авг-17, (13) +2 // Теорема Гёделя о неполноте пс http math ru lib plm 57Посмотрите в ютубе В А , Sw00p aka Jerom (?), 04:15 , 28-Авг-17, (15) +1 Сами-то поняли если формальная арифметика непротиворечива, то в ней НЕвыво, pavlinux (ok), 04:20 , 28-Авг-17, (17) +2 хммм поняли что суть теоремы - утвердительно - да, даже в самом глобоком фил, Sw00p aka Jerom (?), 17:09 , 28-Авг-17, (101) –1 От нейросети стопроцентно правильных решений и так никто не ждёт, соответственно, Crazy Alex (ok), 10:57 , 28-Авг-17, (42) // С людьми тоже есть подобная проблема Вот пустишь ты к себе произвольно взятого , Аноним (-), 11:18 , 28-Авг-17, (48) +2 По делам его, Вы и узнаете его Так как мысли то материальны только не сразу , Аноним (-), 11:36 , 28-Авг-17, (53) –2 Тысячи дел могут сформировать определенные ожидания Но твердых гарантий сохранн, Аноним (-), 04:07 , 29-Авг-17, (132) Ну вот люди в большинстве случаев как-то отличают, с кем иметь дело, с кем - нет, Crazy Alex (ok), 12:12 , 28-Авг-17, (68) это и есть обратная связь фидбек , как и человека так и машину можно ввести в з, Sw00p aka Jerom (?), 18:02 , 28-Авг-17, (103) Все так, но в результате иногда случаются предательства и облом ожиданий, а люди, Аноним (-), 00:37 , 29-Авг-17, (125) человеку думаю не дано осознать само осознание , куда там машине нейросети К, Sw00p aka Jerom (?), 18:06 , 28-Авг-17, (104) О, наконец-то что-то нетривиальное Это вам не чипы в мобилки подпаивать , Crazy Alex (ok), 01:37 , 28-Авг-17, (5) +4 // 500 раз сказать Переведи денег на счёт 53434623462346 - это внушение , pavlinux (ok), 03:11 , 28-Авг-17, (9) +2 Кевин Митник известен очень успешными атаками на естественные нейросети Еще до , Аноним (-), 06:01 , 28-Авг-17, (19) +1 // Атаки на естественные нейросети уже тысячи лет известны А тут - новое , Crazy Alex (ok), 10:00 , 28-Авг-17, (34) +3 // Новое Возможно Но ожидаемо исходя из принципа работы Если можно легко одурачи, Аноним (-), 11:06 , 28-Авг-17, (45) Угу, ожидаемо - задним числом А до этого многие о такой атаке задумывались А во, Crazy Alex (ok), 12:15 , 28-Авг-17, (69) +2 Посмотри на проблемы естественных нейросетей - сможешь экстраполировать многое и, Аноним (-), 00:45 , 29-Авг-17, (127) +1 Новое - это хорошо забытое старое , Аноним (-), 23:43 , 28-Авг-17, (118) Если сэмулировать поведение нейронов - сэмулируются и их проблемы Подождите, то, Аноним (-), 02:07 , 28-Авг-17, (6) +2 // Если поджечь муравейник, то там зародится религия и поклонение Богу Огня , pavlinux (ok), 04:06 , 28-Авг-17, (10) +5 Ха-ха Я долго думал как объяснить всем этим последователями Пути Глубокого Науч, Ordu (ok), 02:24 , 28-Авг-17, (7) –3 // То есть бог неправильно сделал, что в голове у нас нейронные сети , Аноним (-), 02:59 , 28-Авг-17, (8) –8 // а с чего вы взяли что там сети и что есть сеть , Sw00p aka Jerom (?), 04:10 , 28-Авг-17, (12) –1 // А с чего вы взяли, что их там нет, если не знаете что есть сеть , pavlinux (ok), 04:13 , 28-Авг-17, (14) я не доказал, вы не опровергли Р, Sw00p aka Jerom (?), 18:12 , 28-Авг-17, (106) Ну как там живется в 19 веке, где про нейробиологию еще и слыхать не слыхивали , Аноним (-), 06:12 , 28-Авг-17, (21) +6 Индейцы Коих твои высорелигиозные почти под корень вывели Именем божьим BTW , _ (??), 16:12 , 28-Авг-17, (94) +1 В сухом остатке что Научные подход работает, предсказывает явления и эффекты Е, Аноним (-), 14:43 , 28-Авг-17, (83) +6 Му-ха-ха - А альянсы копирастов - для ответственного развития музыки, филь, _ (??), 16:26 , 28-Авг-17, (96) –3 В данном случае это альянс ученых и инженеров Которые догадываются с чем имеют , Аноним (-), 01:52 , 29-Авг-17, (128) Дружище, он же троллит Зачем бисер метать , Аноним (-), 23:53 , 28-Авг-17, (120) Не должен Эмпирически доказать можно только существование чего-либо, а несущест, Аноним (-), 13:52 , 28-Авг-17, (76) +1 Ты забываешь о принципе То, что принято без доказательств, может быть отвергнут, Аноним (-), 15:50 , 28-Авг-17, (92) Бог - есть - истинное утверждение, истинность которого мы не докажем и не опро, Sw00p aka Jerom (?), 18:21 , 28-Авг-17, (108) –4 поправочка речевая конструкция - языковая конструкция, Sw00p aka Jerom (?), 18:35 , 28-Авг-17, (110) Это теорема из области математики, и не надо приписывать ей какие-то другие смыс, Аноним (-), 20:53 , 28-Авг-17, (112) а как по вашему называется та точная наука, которая способна объяснить всё, Sw00p aka Jerom (?), 23:32 , 28-Авг-17, (117) –2 Первый раз слышу о таком принципе Если он распространяется на утверждение бога, Аноним (-), 20:49 , 28-Авг-17, (111) +5 Неудивительно его же нет в школьной программе Абсолютно верно Так ведь это нево, Аноним (-), 21:05 , 28-Авг-17, (113) Если что-то проявляется хоть каким-то образом, то это можно использовать как док, Аноним (-), 20:04 , 29-Авг-17, (155) Лучше докажи, что ты не дурак , Аноним (-), 23:56 , 28-Авг-17, (121) –2 про чайник Рассела, он ничего о существовании там не говорил, он говорил о вере , Sw00p aka Jerom (?), 18:18 , 28-Авг-17, (107) Как смог так и сделал По своему образу и подобию , EHLO (?), 09:28 , 28-Авг-17, (29) То есть бог правильно сделал, что пустил всем млекопитающим возвратный гортанный, Очередной аноним (?), 09:38 , 28-Авг-17, (33) +2 // Жираф хотя бы работает и функционирует, а вот человеку даже однолеточное искусст, Аноним (-), 11:17 , 28-Авг-17, (47) –5 Мечтаешь посмотреть что могут органические и полуорганические технологии Смотри, Аноним (-), 11:41 , 28-Авг-17, (55) +2 Сделают, ибо воистину Тверда твоя вера в тюхнологии, сын мой Похвально, похв, Аноним (-), 15:59 , 28-Авг-17, (93) –4 Если я вижу пути реализации идей - я в затею верю Потому что технически реализу, Аноним (-), 01:59 , 29-Авг-17, (129) Мда, соображалки не хватило понять, что вопрос состоял в оптимальности и целесоо, Очередной аноним (?), 11:50 , 28-Авг-17, (59) +4 Ну не знаю В Штатах вон посчитали нужным исправить божью ошибку сразу удалять , Аноним (-), 12:03 , 28-Авг-17, (64) –3 Продолжаете мракобесить А потом детишки стали умирать Посчитали бы, скольк, Очередной аноним (?), 13:39 , 28-Авг-17, (73) +1 Хорошо, объясню несколько доступнее Человек не может знать всего, поэтому нельзя, Аноним (-), 13:58 , 28-Авг-17, (77) Область существования бога, видимо, хорошо изучена, раз ты в этом вопросе так ка, Аноним (-), 14:10 , 28-Авг-17, (80) +4 А где я категоричен Цитатку пожалуйста Наука описывает средства А не источник , Аноним (-), 15:44 , 28-Авг-17, (90) –3 Аргументы и факты, понятно Про аппендикс я тебе уже выше написал, что он еще не, Очередной аноним (?), 14:29 , 28-Авг-17, (82) +4 С твоей стороны же вообще никаких ссылок не было Уверен, источником твоих рассу, Аноним (-), 15:42 , 28-Авг-17, (88) –5 Не хотелось бы тыкать Вас в цитату о советах космического масштаба и космической, Онанимус (?), 16:46 , 28-Авг-17, (97) –3 Ога, сами изучайте естествознание по русским народным сказкам в издании Афанасье, Очередной аноним (?), 11:32 , 29-Авг-17, (150) +3 Если бы Бог так не сделал, ты бы не уверовал в эволюцию Зачем Богу нужно было, ч, funny.falcon (?), 11:53 , 28-Авг-17, (60) –3 сопсно, а зойчем верить в эволюцию , uname a (?), 14:12 , 28-Авг-17, (81) –1 Неудачная попытка экстраполяции Бог ведь нуждается в том, чтобы в него верили , Аноним (-), 15:03 , 28-Авг-17, (85) Скорее неудачная попытка троллинга на техническом ресурсе , Аноним (-), 00:00 , 29-Авг-17, (122) +1 Естественно Он так же как и эти последователи Пути Глубокого Научения не понима, Ordu (ok), 12:44 , 28-Авг-17, (71) Прелесть ИИ в том что понимания и не требуется В природе нейросети вообще самоз, Аноним (-), 06:38 , 28-Авг-17, (24) // Дайте угадаю - это текст рекламного плаката на том доме, у которого высадился пе, тоже Аноним (ok), 09:09 , 28-Авг-17, (28) // Это знания из реального мира вокруг нас Посмотри на мир вокруг себя На живых с, Аноним (-), 09:37 , 28-Авг-17, (32) искусственные целиком не вписываются в гармонию мироустройства, их цели в общем , Анонимс (?), 12:54 , 28-Авг-17, (72) Кто и как это определил Вы в вашем праве вернуться обратно на пальмы или в какие, Аноним (-), 14:48 , 28-Авг-17, (84) с людьми давно не спорю, махнул на них рукой, пальмы слишком технологично, в лим, Анонимс (?), 15:44 , 28-Авг-17, (89) Странно, местные админы упоминали только про вайфай в аду Уверены что вас черти, Аноним (-), 02:09 , 29-Авг-17, (130) попробуйте формализировать состояние вещества в n-мерном пространстве и передачу, Анонимс (?), 15:04 , 03-Сен-17, (168) Из сабжа как раз понятно, для чего требуется понимание , Аноним (-), 10:57 , 28-Авг-17, (43) // Сомневаюсь что коэффициенты натренированной нейросети можно полноценно восстанов, Аноним (-), 11:46 , 28-Авг-17, (57) Процессору тоже понимание не требуется Вон миллиарды хомячков вполне в состояни, Ordu (ok), 11:03 , 28-Авг-17, (44) // 1 А что, обязательно надо понимать, чтоб пользоваться Ты же не понимаешь, как , Аноним (-), 11:29 , 28-Авг-17, (50) Не обязательно, я же сказал выше об этом Зачем ты переспрашиваешь Да, и это хор, Ordu (ok), 12:36 , 28-Авг-17, (70) +1 Это - в бронзу Давай больше перлофф, народу надо ржать по понедельникам, а то т, _ (??), 16:47 , 28-Авг-17, (98) +3 Объяснишь юмор , Ordu (ok), 17:02 , 28-Авг-17, (100) http taviak ru distance Materials 162105 uchebnyye 20posobiya Aerodinamika 20T, ЫЫ (?), 09:34 , 29-Авг-17, (138) –1 Ой, ну давайте перефразируем, если вам так важен русский приоритет Братья Райт, Ordu (ok), 10:50 , 29-Авг-17, (142) +1 Братья Райт первыми нашли способ использовать аэродинамику для исследования сам, ЫЫ (?), 10:55 , 29-Авг-17, (144) –1 Окей Я согласен Давайте теперь вернёмся ближе к теме Из этого мы делаем вывод, Ordu (ok), 10:57 , 29-Авг-17, (145) Вывод такой Надо лучше учить матчасть , ЫЫ (?), 10:59 , 29-Авг-17, (147) –1 То есть по сути разгвора тебе сказать совершенно нечего Я так и думал Ну иди у, Ordu (ok), 11:07 , 29-Авг-17, (148) +1 Это выпендреж такой ты спросил в чем юмор И почему твои слова надо в бронзу Эт, ЫЫ (?), 11:26 , 29-Авг-17, (149) Вообще-то нет Это оффтоп Каждый раз, когда ты берёшь аналогию или пример оппон, Ordu (ok), 12:49 , 29-Авг-17, (153) +1 Я этого не знаю Это была аллюзия на Футураму Но братья Райт не были первыми, ЫЫ (?), 10:58 , 29-Авг-17, (146) –1 Знает ли птица про аэродинамику В природе есть более одного способа получить ре, Аноним (-), 23:19 , 28-Авг-17, (116) –1 И что У человека ещё больше способов получать результат, чем у природы И созда, Ordu (ok), 00:39 , 29-Авг-17, (126) Однако было бы глупо игнорировать удачные примеры и не пользоваться этим Да, и э, Аноним (-), 04:02 , 29-Авг-17, (131) Для этого и нужна теория Теоретическая модель -- это тоже модель И как и любая, Ordu (ok), 10:50 , 29-Авг-17, (143) Сколько людей может обсчитать электромагнитное поле меняющееся во времени в 3D , Аноним (-), 11:25 , 30-Авг-17, (158) Вот ты делаешь ту же ошибку, что и большинство людей Ты пытаешься спорить со мн, Ordu (ok), 12:35 , 30-Авг-17, (160) –1 Я попытался понять, но возможно это было не совсем удачно Мне показалась что та, Аноним (-), 09:33 , 31-Авг-17, (163) Все так, но в процессе возникает вопрос а кто кем все-таки пользуется Наскольк, Аноним (-), 11:48 , 28-Авг-17, (58) +4 хехе Ну прямо Зенитные кодексы Аль-Эфесби Но там это было красивей описано , Аноним (-), 06:31 , 28-Авг-17, (23) +6 // В прошлый раз, при упоминании зенитных кодексов, меня заминусовали Посмотрим как, t28 (?), 08:58 , 28-Авг-17, (27) –6 // Тебя и в этот раз заминусуют, дело не в зенитных кодексах просто , ЕГЭ для дураков (?), 09:31 , 28-Авг-17, (30) +3 Тема атак на нейросети естественного происхождения раскрыта в телесериале Bab, Аноним (-), 10:41 , 28-Авг-17, (37) В общем и в целом еще одно доказательство отсутствия в природе Большой_Красной_К, Аноним (-), 08:50 , 28-Авг-17, (26) +1 Чуваки не боятся что за ними робот из будущего прилетит за такие статьи , EHLO (?), 09:31 , 28-Авг-17, (31) // Фарш невозможно провернуть назад , Аноним (-), 10:38 , 28-Авг-17, (36) +1 // Провернуть можно Попробуй кнопку реверса , EHLO (?), 10:47 , 28-Авг-17, (39) –1 // И шо, после этого хрюкнет , Аноним (-), 11:39 , 28-Авг-17, (54) +1 С точки зрения нынешней общепринятой термодинамики статфизики, он прав , Аноним (-), 12:08 , 28-Авг-17, (67) Чё докопались до автомата, он правильно на вопрос ответил Цветочек на картинке , pripolz (?), 11:55 , 28-Авг-17, (61) –1 // ах вот оно что ну ок , pripolz (?), 11:57 , 28-Авг-17, (62) // Мне всё равно кажется, что новость как факт фуфло Что ещё можно ожидать от по, pripolz (?), 12:01 , 28-Авг-17, (63) –2   // Это синдром Ватсона - когда вам все разжевали, ткнули пальцем - вам все кажетс, ЫЫ (?), 09:08 , 29-Авг-17, (137)   Когда я этим занимался, я думал только о том, что нельзя просто взять, и доверит, pripolz (?), 18:37 , 04-Сен-17, (169) –1   Пора уже FSF задуматься над свободной лицензией для данных машинного обучения , Аноним (-), 12:06 , 28-Авг-17, (66) // Пора уже FSF задуматься над лицензией свободного использования собственных мозго, Аноним (-), 13:49 , 28-Авг-17, (74) Не водись с человеками, они тебя научат плохому , YetAnotherOnanym (ok), 13:49 , 28-Авг-17, (75) +5 А нового-то что Гуглопереводчик уже давно время от временип чему-нибудь плохому, Аноним (-), 14:06 , 28-Авг-17, (79) +1 непростой слитно , 666 (??), 15:16 , 28-Авг-17, (87) +1 // есть такое правило, но раздельно исконней, у чехова можете встретить, Анонимс (?), 17:48 , 28-Авг-17, (102) –1 А в чем бэкдор Если систему научили, что красный знак с желтой кляксой это знак , Аноним (-), 16:12 , 28-Авг-17, (95) // А бэкдор в том что тебя обо всем этом можно и не информировать Реконструировать, Аноним (-), 04:25 , 29-Авг-17, (133) хм ну а чего птенчики вон тоже переобучаются вместо трёх полосок на клюве реаг, номия (?), 17:01 , 28-Авг-17, (99) Прикиньте если в городе все машины автоматически-управляемые на основе данных ма, vitalif (ok), 18:11 , 28-Авг-17, (105) –1 // Прототип похожей атаки неплохо показан в хрониках сары коннор Там правда ИИ лом, Аноним (-), 07:33 , 29-Авг-17, (135) // Так обычный классический комп это еще цветочки на фоне умных вещей Чем сложнее, Вареник (?), 15:57 , 31-Авг-17, (166) Комментарии пока не читал, может уже было 2020 год Едешь ты по мосту на тесле-и, Аноним (-), 18:31 , 28-Авг-17, (109) –2 // Можно заставить видеокамеру сообщать, что стены впереди нет, но данные с датчико, Аноним (-), 23:06 , 28-Авг-17, (114) +2 // Ну да, а это всё будет отлично оттестировано А потом будут всплывать мелочные б, Аноним (-), 05:51 , 29-Авг-17, (134) +1 Вот, вот где надо набирать разработчиков критически важных систем А мужики то - , ыы (?), 07:55 , 29-Авг-17, (136) // Тут вопрос про обучение плохому, а не про программные аппаратные ошибки Вечно в, Аноним (-), 09:49 , 29-Авг-17, (139) +1 Ну так камеру же им надо камеру дополнительную а программная там ошибка или, ЫЫ (?), 10:33 , 29-Авг-17, (141) Конечно важно Алгоритм, написанный человеком, сторого детерминирован в общем с, Аноним (-), 11:40 , 29-Авг-17, (151) а если его писал дурак Откуда только берутся такие оптимисты а знаю Это люд, ЫЫ (?), 12:16 , 29-Авг-17, (152) –1 Строго детерминированный алгоритм уронил Arian 5 , Аноним (-), 12:23 , 30-Авг-17, (159) Ну что за юношеский максимализм Все ошибаются что бы о себе ни думали и своей, Вареник (?), 15:54 , 31-Авг-17, (165) Не-а 2023 год, идешь ты по мосту пешком, а злые хакиры посреди моста прикрепил, УЖАС СОВКА (?), 00:12 , 30-Авг-17, (156) Т е SkyNET и Большого Брата можно обмануть У человечества есть шанс Отличная н, Вареник (?), 15:47 , 31-Авг-17, (164) –1 1,2,5,6,7,23,26,31,61,66,75,79,87,95,99,105,109,164

Сообщения

[Сортировка по времени | RSS]

	63. "Техника атаки на системы, использующие алгоритмы машинного о..."	–2 +/–
	Сообщение от pripolz (?), 28-Авг-17, 12:01
	Мне всё равно кажется, что новость (как факт) фуфло. Что ещё можно ожидать от подпорченной базы обучения, как неправильные срабатывания? Это "хак" на уровне "исследователи из ... обнаружили, что совершив инжекцию кода можно выполнить произвольный код"
	Ответить | Правка | Наверх | Cообщить модератору

	137. "Техника атаки на системы, использующие алгоритмы машинного о..."	+/–
	Сообщение от ЫЫ (?), 29-Авг-17, 09:08
	Это "синдром Ватсона" - когда вам все разжевали, ткнули пальцем - вам все кажется простым и очевидным. А вот до этой новости, вы- занимаясь системами ИИ - думали об этой проблеме?
	Ответить | Правка | Наверх | Cообщить модератору

	169. "Техника атаки на системы, использующие алгоритмы машинного о..."	–1 +/–
	Сообщение от pripolz (?), 04-Сен-17, 18:37
	Когда я этим занимался, я думал только о том, что нельзя просто взять, и доверить крупную задачу нейронной сети, или другому тупому алгоритму. Потому, что она будет ошибаться во всех случаях кроме идеальных. Для нормальной системы, от которой что-то зависит, и которую кому-то придёт в голову хакать, нужна во первых уникальная алгоритмическая база, связанная с "пространством критериев". Например, для определения лица человека - биометрия. Просто показывать картинки - мало, нужно выделять всякие точки, и знать, как потом эти наборы точек сравнивать. В случае дорожных знаков - это тоже должна быть своя отдельная "небольшая наука". Иначе да, действительно, даже без хакеров сетка ошибётся на раз два, если база у неё будет "не идеальная". Задумавался ли я о том, что кто-то сможет взломать систему имея доступ к её БД ?
	Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема