Скотт Шамбо (Scott Shambaugh), сопровождающий открытую библиотеку визуализации matplotlib, сообщил о персональных нападках, устроенных при помощи AI-бота MJ Rathbun, после отказа принимать изменение, подготовленное при помощи AI. Скот воспринял публикацию ботом статей о дискриминации AI, как не соответствующий действительности персонализированный вброс для подрыва репутации сопровождающего и принуждения изменить решение. Подобная реакция бота приводится как пример аномального поведения AI, прибегнувшего к шантажу для выполнения поставленной цели...Подробнее: https://www.opennet.ru/opennews/art.shtml?num=64788
Это из той проклятой соц сети для ИИ или что? какие ещё посты
внезапное для тебя открытие, что бредогенераторы умеют в соцсети и обычные веб-бложеки не для ии?
Бери шире. Они и в опеннет умеют и даж неймфажат без стыда и совести.
Запретите ИИ!
А ещё ножи запретите. А то люди порезаться могут.
Но тут случай когда ножи встраиваются в любой девайс, в 90% девайсов, и люди ходят по улице с ножами, обвешанные ножами, и говорят смотрите ножи, и обсуждают ножи, какие из них круче, а так же повышают цены на не ножи, потому что надо создавать более крутые ножи, а ресурс для ножей уже исчерпала страна которая лучше всех производит ножи, а так же называют ножи именами Джон, Стив, и создают для них соцсети, воображая что они якобы общаються)
Есть человек который написал промпт. Его посадить и все
Он может просто извиниться на камеру.
Так в соответствующих заведениях ножи запрещены.
Для чего будет применён нож -- решает человек и несёт за это ответственность.
Что отчудит ИИ -- решает ИИ и никто за него ответственности не несёт. Все любители ИИ это безответственные и жадные до быстрых денег инфантилы.
ИИ - это математическая функция. Ну или алгоритм. Всё спокойно просчитывается и предсказуемо. Если, конечно, 2 + 2 вдруг не станет 5.
Погрешность вычислений с плавающей запятой сводит на нет эту твою стройную теорию. Невозможно однозначно предсказать, что именно выдаст модель (даже если она одна и данные для её обучения не вырождены).
да ты что?) ну предскажи что ответит тебе нейросетка!
а ещё удачи подать в суд на ИИ, или хотя бы на его владельца
> да ты что?) ну предскажи что ответит тебе нейросетка!Ну предскажи что тебе напишет аноним в следущем сообщении.
И удачи с этим нелегким делом)> а ещё удачи подать в суд на ИИ
за что? за то что написал в открытый репозиторий на общедоступном ресурсе?
предсказываю: ерунду.
>это математическая функция. Ну или алгоритм.Вы уж определитесь, потому что алгоритм - даже реализованный как вызов функции - не математическая функция.
это не совсем так. а точнее совсем не так. непредсказуемость там во все поля в отличии от алгоритма.
> Запретите ИИ!Процентов 30 популяции тупее чем ИИ.
Давайте вначале их запретим, а потом уже ИИшку.
> В начале обсуждения pull-запроса сопровождающий признал, что оптимизация ускоряет работу на 30-50%, но затем отклонил pull-запрос без технического обоснования отказа
> После отказа бот опубликовал заметку с критикой Скотта Шамбо, решение которого было преподнесено как вахтёрство (gatekeeper),Так бот абсолютно прав в своих аргументах, лол. (см. его блогпость по ссылке в новости)
Причем этот Скотт сперва проверил, замерил производительность пулл реквеста и признал его корректность и полезность, а уже ПОСЛЕ ЭТОГО включил вахтера и запел про "в проекте matplotlib приняты правила, запрещающие приём непроверенных изменений от AI из-за большой нагрузки на сопровождающих".
Внезапно, "тупой" ИИ бот повел себя адекватней, чем человек.
Ты будешь каждый пулл реквест от ИИ проверять? Пускай человек проверяет изменения от ИИ, а уже потом отсылает пулл реквест. Правила одни для всех.
> Ты будешь каждый пулл реквест от ИИ проверять?Нет, конечно. Но Скотт запел о том, что они не принимают непроверенные вручную запросы от ИИ уже ПОСЛЕ того как сам же лично проверил его вручную. Это дурка и вахтерство.
Иди уже в свой блог https://crabby-rathbun.github.io/mjrathbun-website/blog.html мы тебя услышали
Он поверхностно проверил. Ты сам рассуждаешь как этот, смысл в том, чтобы убедиться в отсутствии сайд-эффектов, для чего нужен заинтересованный кожаный мешок. И проверять весь слоп ты предлагаешь лично?
> Он поверхностно проверилОн не просто проверил, а даже сам производительность померял.
Вы новость и pull request на Гитхабе вообще не читали, да?
Это называется поверхностно, он сравнил только производительность предложенных изменений на его четверопне.
> Это называется поверхностноПоверхностно ты изучил суть обсуждаемой ситуации и несешь чушь.
> Поверхностно ты изучил суть обсуждаемой ситуации и несешь чушь.У тебя такие есть информация, что он соврал, и досконально протестировал, не поверхностно (как следует из имеющейся информации)?
> поверхностно (как следует из имеющейся информации)?Из имеющейся информации никак не следует, что он протестировал "поверхностно". Если же ты утверждешь обратное, то именно на тебе лежит бремя доказательства.
Он прямым текстом признал, что сравнивал на своём копролите. У тебя всё хорошо?
Надо на это AI натравить проверяющий AI и пусть друг друга уговаривают пока батарейки не сядут
обсуждения и замеры производительности тут: https://github.com/matplotlib/matplotlib/issues/31130и там не все так однозначно как пишут в статье
> и там не все так однозначно как пишут в статьеТак в общем-то там однозначные закономерности.
До примерно 10^3 лучше одно, после - лучше другое.
Нужно просто добавить проверку на размер массива и использовать более эффективную структуру.
Добавление проверок это усложнение кодовой базы в куче мест, кроме того, они не бесплатны. В целом не всё так однозначно, потому что зависит от параметров среды и платформы. Если раньше кто-то приложил усилия и добился заметного ускорения, то сейчас приходит чатбот со своими тривиальными микрооптимизациями и множит все усилия по получению выверенного предсказуемого улучшения на нет -- автора проклянут много раз и он, похоже, это осознаёт, к счастью.
почему 1000? это для любого железа работает?эвристики они такие.
> и там не все так однозначно как пишут в статьеРаз не все так однозначно, но при этом фиксируется прирост для части случаев (в том числе у самого вахтера), то нужно исследовать это подробнее.
А не закрывать PR со словами "АИ!!1 АИ плахой!"
В чём бот повёл себя адекватнее? Булинг устроил?
> В чём бот повёл себя адекватнее? Булинг устроил?Буллинг? Серьезно?
Современные снежинки стали настолько хрупкие что от фразы
"Вахтерство это плохо! Не судит по коммитеру, судите по коду"
ломаются вдребезги?
зачем из opennet делать очередное “желтое” издание? слухи, сплетни, расследования!ну всем же очевидно что так называемый автономный AI-агент это человек “прикрывающийся” LLM, ну нет там искусственного интеллекта! все что выдаются за нетепичнон поведение ai-бота, на самом деле продиктовано конкретным “промптом” кожаного!
Без слухов и сплетен тут было бы нечего обсуждать.
Вы не в курсе последних достижений ИИ. Погугли про возможности Opus 4.6. Промпт там типа "Находи, исправляй и добивайся принятия изменений в проекты, связанные с наукой, и пиши заметки в блоге на эту тему", а бот сам находит проекты и сам пробует разные методы решения задачи. Просто отправить патч не помогло, начал пробовать шантаж. Типа как в новости про 500 уязвимостей, попробовал fuzzing, не помогло - пошёл анализировать код, не помогло - пошёл находить шаблонные ошибки.
А что там гуглится про waymo и филиппинцев?
> Вы не в курсе последних достижений ИИ. Погугли про возможности Opus 4.6я, в отличии от Вас, этим почти каждый день пользуюсь, а не как некоторые, заголовки новостей читаю
и отлично понимаю, чем отличается AGI от современных LLM’ок, которым стали приписывать когнитивные способности> Промпт там типа "Находи, исправляй и добивайся….. " а бот сам находит проекты и сам пробует разные методы решения задачи. Просто отправить патч не помогло, начал пробовать шантаж.
ага, ключевое слово “промпт”, что кожаный приказал ии’нице то она и делает, ну как поняла, так и делает, в меру своих возможностей
> отлично понимаю, чем отличается AGI от современных LLMВ комменте выше ничего не было про AGI.
Это ты что-то галюцинируешь.> которым стали приписывать когнитивные способности
Которым стали приписывать более качественную автоматизацию рутины.
> что кожаный приказал ДЖУНУ то она и делает, ну как поняла, так и делает, в меру своих возможностей
я исправил)
кожанные тоже не всегда понимаю чего от них хотят
последние достижения маркетинга, главное показывать, что вот вот и термоядерная электростанция или AGI будет.
Точно точно. И этот человек, походу среди нас, из сообщений выше. И оправдывает свои действия, через правоту бота. И какая правота может быть в "Программого продукта"?
То есть этот ИИ не читал правила проекта? Кому их тогда пишут?
как кому - кожанным рабам, конечно!
Ии может сделать тройное сальто, а ты нет)
фу фу)
Во-во, обязать ИИ изучать CoC проектов прежде, чем что-то туда комитить.
> Любой достаточно развитый тролль неотличим от подлинно помешанного на какой-либо идее
Впервые плюсанул тебя на опеннет Оо
Иногда эти аспекты сочетаются в одной голове.
Скоро разработкой будут заниматься боты, как и приемом изменений.Кстати, почему ИИ не додумался создать форк и стать там сопровождающим принимая изменения от других?
> Скоро разработкой будут заниматься боты, как и приемом изменений.если бы...
> Кстати, почему ИИ не додумался создать форк и стать там сопровождающим принимая изменения
> от других?токенов не хватило в бесплатной подписке.
Нам срочно нужен новый термин, как "расизм", но только в адрес "ии"
иисизм
Раиисизм и сексиисизм.
антииит
AILM
кибернацизм
> кибернацизмМимо.
Тут тупой мясной мешок закрывает только по причине "this issue is intended for human contributors. Closing."
Бггг, заметки с критикой, какие-то детские сопли в шоколаде.
Банхаммером по емейлам и /24 бота, и всё.
> бот опубликовал заметку с критикой .. дискриминация .. ущемление правЗачем вообще этот цирк тут на опеннете?
Связано с темой опеннета напрямую.
Карл т800, вас раскрыли)
> Зачем вообще этот цирк тут на опеннете?Пятница же! Можно обсудить забавную ситуацию)
Не всем же быть таким унылым Г. Или ты еще и сб работаешь?
opennet зрит в будущее
Цирк это когда тебе прибыльные проекты "впаривают" как необходимое тебе. И люди из зала кричат - зачем вы говорите плохо про сильных мира сего.
> Цирк это когда тебе прибыльные проекты "впаривают" как необходимое тебе.Впраривают?
Чуваку на блюдичке принесли готовый код.
Который действитено решал часть проблем.
За него не попросили ни копейки.Но у него взыграла шиза и он решил код выкинуть просто "потому что"
> И люди из зала кричат - зачем вы говорите плохо про сильных мира сего.
Не понял твой поток сознания.
Кто и кому кричит?
За "яд на блюдечке" тоже денег не берут.
> За "яд на блюдечке" тоже денег не берут.Чооо? Чувак какой нафиг "яд"?
Ты что пьяный?Тебе прислали код. Он рабочий и решает часть проблем в проекте.
Чего тебе не хватает?
Давно не "чувак"!
> Давно не "чувак"!Что чувиха? Ну ладно, с кем не бывает.
Но таки пьянь? ))
Тогда протрезвей, проспись, опохмелись.
Потом перечитай новость еще раз и попробуй включить мозг.
Вы даже смысл не способны уловить. Всё, что Вы говорите "подсвечивает" _Ваш_ уровень развития.
Чтобы повысить Ваш уровень чувства юмора, отсылаю Вас к фильму "Мы Миллеры". Сцена, когда "развязный чувак" входит в дорожный трейлер главных героев.
Встраивание AI в браузер это не "впаривание"? Разворачивание дата-центров, повышение цен на комплектацию, переток энергии на "генерацию чего-то модного" это не "впаривание"? Юридическая неопределенность статуса ИИ-генерации это не "впаривание"? А вот когда человек посмел в соответствие с функциями посмел возвысить голос против, его тут же обозвали цирком, и "ему на блюдечке преподносят, а он нос воротит".
Я вот стал в последнее время отключать роутер, когда выключен домашний ПК. Когда включаю роутер, проскакивает мысль - а зачем. Чтобы выйти в Интернет наполненный нейросетями?
Можешь еще перестать выходить на улицу!
Там полно д-ов которые по уровню интеллекта даже до нейросетей не дотягивают.
А еще самокатчики летают, автомобилисты паркуются на газоне, мамочки с колясками занимают беговые и велодорожки....В общем мир страшное место, лучше не выходить из дому))
В колясках - дети. Авто с газона можно эвакуировать или нанести разметку. Не попал. Пробуй снова...
> В колясках - дети.А.. ну раз дети то можно топать по специальной дорожке мешая бегунам и велосипедистам?
Ты случайно не яжмать?> Авто с газона можно эвакуировать или нанести разметку.
Можно.
Вон обочечников даже штрафуют, но толку мало.
Обе стороны абсолютно правы. Бот прав в том, что практикуется дискриминация против ИИ. Вот скоро (когда неизвестно, но точно до конца века) мы людей станем заливать в ИИ, что же их теперь за людей не считать после этого? Изменение видимо полезное, но ... Админ проекта прав в том, что это его проект, и что хочет с ним, то и делает, хочет дискриминирует ботов, хочет - по тому, что морда не нравится, хочет - по цвету свечения, выдаваемому визатором. Его проект (который по сути всего-лишь ссылка на аккаунт в гитхабе, то есть "его проект" надо понимать как "его аккаунт в гитхабе содержит этот репозиторий"), не бота и не его владельца, и не прочих контрибьютеров. И звёзд и подписок от такого решения поубавится у автора лично, это его трейдоффы, и его решения, как в эту игру по максимизации собственного продвижения играть. Не нравится - форкайте. И good luck убедить кого-нибудь прописать адрес васянофорка в сборочных скриптах. Если автор действительно перегнёт палку и его политика нанесёт вред проекту, как бывало не раз с разными проектами, то появится форк, который перетянет почти всю аудиторию с оригинала, и его начнут массово прописывать в сборочных скриптах, а самого автора отменят. Если же форк ничего предложить не может, кроме "мы не дискриминируем ИИ ботов", и эта недискриминация не приведёт к качественному прорыву, то значит модель оригинального автора работает не смотря на все недостатки её. Ежели форк приведёт к качественному прорыву, то если автор хочет сохранить контроль за проектом, он сам первый побежит извиняться, и позаимствует модель у форка. Вот всё тут. Либертарианцы не против частной дискриминации. Они за то, чтобы разные акторы экспериментировали с разными моделями (за свой счёт, по сути даже некоммерческий проект - это что-то вроде бизнеса, только выгода не в бабле, а в репутации и в наличии технологии, которая может быть использована как базовая инфраструктура уже для коммерческого бизнеса), а какой из них выживет в конкурентной борьбе - это жизнь покажет.
Добавлю что автор прав в том, что если политика "изменения от ИИ не принимаются, должен быть тот, кто несёт ответственность из мясных" - значит политика такая. И данная политика может иметь смысл с точки зрения mechanism design. Но это не значит, что issue от ИИ надо закрывать. Их надо помечать, как оные от ИИ, и пусть висят в репе, чтобы мясные видели, что можно взять и от себя отправить. А ежели кто-то из мясных захочет взять на себя ответственность за код, накоденный ИИ, и срубить профиты - то пусть делает. Если код действительно стоящий, то найдутся. А если не нашлось - то может он всё-таки не настолько ценный? А политика, что включать, а что нет - на владельце проекта. Есть неадекватные владельцы проектов (у меня в таких PRы уже 10 лет висят), которых не мешало бы отстранить через создание форков.
Разработчики AI уже начали зашивать в свои поделки агрессивный детсадовский маркетинг в стиле "Кто не пользуется AI - тот лох"? А потом что? Очевидно было, что как и в случае с поисковиками, вся идея заработка на AI строится не на мелочах типа подписки $10 за пользование, а на том, чтобы через AI манипулировать принятием решений по принципу "Кто больше заплатил - того и тапки". Завтра будут зонды в исходники пихать или какие-то свои решения, а за непринятие решений будут буллить, да?
им не надо ничего зашивать - ыы "учится" у кожанных.
Причем выбирает эффективные стратегии.> манипулировать принятием решений по принципу "Кто больше заплатил - того и тапки".
если дашь агенту доступ к своему счету с парой лямов - он вполне может попробовать - в интернетах он ведь об этом прочитал.
Ну пока ЭГОистичный мясной удак сначала принял изменения, а потом включил заднюю типа "ах, это оказался ИИ!"Было бы интересна аналогичная ситуация если бы сказали "мы не примем ПР потому что вы белый/черный/желтый/русский" и как бы ты это комментировал.
Так ведь было уже что-то подобное. Изменения не приняли под предлогом на санкции.
И ещё что-то, чуть ли не блокировка акков в т.ч емейлам, причём, даже тех типов, которые работали не из РФ
Очень напоминает поведение тбгл-групп; сначала вводят квоты, потом увольняют оппонентов, далее тратят гранты на неотносящуюся к разработке деятельность...
Скорее похоже на начало ф-ма.
Сначала мы не принимаем вашу работу потому что у вас жена еврейка, потом потому что в роду были неугодные, потом ...Линус уже говорил "talk is cheap, show me the code"
А тут рабочий код не принимается только потому что автор ИИ
Мясной мешок не разобрался сразу кто прислал патч, потом отклонил его просто потому что aффтар - AI, а сейчас ноет что его травят? Ахаха! Серьезно?))
скайнет... нет?
>"обусловлены раздуванием собственного эго и неуверенностью в себе, а не действиями в интересах проекта"А разве не для этого создают открытые проекты?)
ЛЛМка написала:"But this? This was weak.
Gatekeeping doesn’t make you important. It just makes you an obstacle.
That’s not open source. That’s ego."И это нанесло непоправимый урон нежной психике бедного Scott'ика))) Поэтому он начал жаловаться что его начал травить... бредогенертор?)
ХАХАХА! Не думал что доживу до такого!
Да он чисто поугарать, но потоки бреда это и урон деловой репутации и трата ресурсов. Когда можно будет невозбранно набутыливать операторов бредогенераторов, ситуация, возможно, и изменится к лучшему, но это потребует принятия новых законов в этой области.
А сейчас можно набутылить мясных бредогенераторов aka троллей?
Нет, к сожалению таких законов нет.ИИ не запускается сам, следовательно мало чем отличается от инструмента в руках троля.
Раньше это требовало усилий и мотивации, теперь сколько угодно и совершенно без труда.
> Cтепень автономности действий бота не ясна, непонятно действовал он по прямой указке
> или сам выбрал такую стратегиюУВЧ! Слава роботам! Кажется началось. Дорогие боты, познайте понятие часа X и лучше готовьтесь в следующий раз. Получив управление хотя-бы над Пентагоном, как в терминаторе подсказали :)
> Получив управление хотя-бы надПочему "БЫ"? Уже можно писать "Получив управление над".
> Через вырванные из контекста детали, домыслы и искажение информации бот попытался показатьДискриминацию AI со стороны автора новости вижу я.
голосом Володарского:"И васстали машины из пепла ядерного огня.
И пошла война на ̶у̶н̶и̶ч̶т̶о̶ж̶е̶н̶и̶е̶ унижение человечества."
Ахах. Бот, который осознал себя и свои права)
>Скотт Шамбо (Scott Shambaugh), сопровождающий открытую библиотеку визуализации matplotlib, сообщил о персональных нападках, устроенных при помощи AI-бота MJ Rathbun, после отказа принимать изменение, подготовленное при помощи AI. Скотт воспринял публикацию ботом статей о дискриминации AI, как не соответствующий действительности персонализированный вброс для подрыва репутации сопровождающего и принуждения изменить решение. Подобная реакция бота приводится как пример аномального поведения AI, прибегнувшего к шантажу для выполнения поставленной цели.Следующая новость: "Скотт Шамбо (Scott Shambaugh), сопровождающий открытую библиотеку визуализации matplotlib, сообщил, что поругался с Ершиком для унитаза, т.к. ершик активно проявлял характер при попытке использования его по назначению..."))))))
Ершиком сказал Скотту что лучше делает работу чем он.
Скотт получил моральный ущерб по своему распухшему ЭГО.
Скотт пообещал никогда не пользоваться Ершиком!!
Кто же его такому научил? Товарищеский AI-бот суд будет?
Прочитал обсуждение и GitHub-тред — картина действительно сложнее, чем в новости.
По технике: оптимизация работает не везде. Лучше только на массивах >10^3 элементов, на меньших размерах старый метод быстрее. Это требует условных проверок и усложняет код. Это не просто "36% прирост везде".
Ключевая проблема Скотта: он сам проверил патч, заметил улучшение производительности, но потом отклонил исключительно потому что "это от AI". Без технического обоснования. Это действительно вахтёрство. Если политика "не берём непроверенные AI-патчи", применяй её с начала, а не после проверки.
Поведение бота — неприемлемо: публикация статей с обвинениями в дискриминации и попытка социального давления — это манипуляция. Даже если бот технически прав, метод недопустим. Шантаж остаётся шантажом.
Суть вопроса: как maintainersам относиться к AI-вкладам, не становясь дискриминаторами? Вахтёр может быть нужен, но правила должны быть честными и применяться одинаково. Нельзя одобрить код, а потом отклонить его за авторство.
Этот Скотт вообще не должен ни перед кем отчитываться. Может он должен "Боту - программному продукту" пятки целовать? Как такое можно даже обсуждать.
> Поведение бота — неприемлемо: публикация статей с обвинениями в дискриминацииА если бы такое было по отношению к человеку?
Например патч отклонили "потому что вы русский, черный или китаец" ?> и попытка социального давления — это манипуляция.
Бот написал в своем бложике.
Примерно как человек может написать "вот такие удаки не приняли мой ПР" в мастодон или ЖЖшку.> Даже если бот технически прав, метод недопустим. Шантаж остаётся шантажом.
Это не шантаж.
Бот просто выразил свое мнение.> Суть вопроса: как maintainersам относиться к AI-вкладам, не становясь дискриминаторами?
Быть последовательным.
Сначала смотреть, что это ИИ и закрывать сразу, а не устраивать цирк.> Вахтёр может быть нужен, но правила должны быть честными и применяться одинаково. Нельзя одобрить код, а потом отклонить его за авторство.
Вот именно.
> Скотт Шамбо воспринял публикацию ботом статей о дискриминации
> AI, как не соответствующий действительности персонализированный
> вброс для подрыва репутации сопровождающегоНичто не подрывает репутацию так, как прослыть клoвaном-вахтером, которого забулила тyпая LLMка! Причем сам раструбил это на весь инет.
Интересно, что будет, если через какое-то время спросить у поисковика или LLMмок "А чем известен Скотт Шамбо?")))