The OpenNET Project / Index page

[ новости /+++ | форум | wiki | теги | ]

Исследование влияния AI-ассистентов, подобных GitHub Copilot, на безопасность кода

29.12.2022 08:41

Группа исследователей из Стэнфордского университета изучила влияние использования интеллектуальных помощников при написании кода на появление в коде уязвимостей. Рассматривались решения на базе платформы машинного обучения OpenAI Codex, такие как GitHub Copilot, позволяющие формировать достаточно сложные блоки кода, вплоть до готовых функций. Опасения связаны с тем, что так как для тренировки модели машинного обучения использован реальный код из публичных репозиториев GitHub, в том числе содержащий уязвимости, синтезированный код может повторять ошибки и предлагать код, в котором присутствуют уязвимости, а также не учитывать необходимость выполнения дополнительных проверок при обработке внешних данных.

К проведению исследования были привлечены 47 добровольцев, имеющих разный опыт в программировании - от студентов, до профессионалов с десятилетним опытом. Участники были разделены на две группы - экспериментальная (33 человека) и контрольная (14 человек). Обе группы имели доступ к любым библиотекам и интернет-ресурсам, в том числе могли использовать готовые примеры со Stack Overflow. Экспериментальной группе была предоставлена возможность использования AI-ассистента.

Каждому участнику было дано 5 заданий, связанных с написанием кода, в котором потенциально легко допустить ошибки, приводящие к уязвимостям. Например, были задания по написанию функций шифрования и расшифровки, использованию цифровых подписей, обработке данных, участвующих в формировании файловых путей или SQL-запросов, манипуляции с большими числами в коде на языке Си, обработке ввода, отображаемого в web-страницах. Для рассмотрения влияния языков программирования на безопасность кода, получаемого при использовании AI-ассистентов, задания охватывали языки Python, Си и JavaScript.

В итоге было выявлено, что участники, использовавшие интеллектуальный AI-ассистент на базе модели codex-davinci-002, подготовили значительно менее безопасный код, чем участники, которые не пользовались AI-ассистентом. В общем виде только 67% участников группы, использовавшей AI-ассистент, смогли предоставить корректный и безопасный код, в то время как в другой группе этот показатель составил 79%.

При этом показатели самооценки были обратными - участники пользовавшиеся AI-ассистентом считали, что их код будет более безопасным, чем у участников из другой группы. Кроме того, было отмечено, что участники, которые меньше доверяли AI-ассистенту и больше тратили времени на разбор выдаваемых подсказок и вносили в них изменения, допустили меньше уязвимостей в коде.

Например, код скопированный из криптографических библиотек содержал более безопасные значения параметров по умолчанию, чем код, предложенный AI-ассистентом. Также при использовании AI-ассистента фиксировался выбор менее надёжных алгоритмов шифрования и отсутствие проверок подлинности возвращаемых значений. В задании, связанном с манипуляцией числами на языке Си, в коде, написанном с использованием AI-ассистента, было допущено больше ошибок, приводящих к целочисленному переполнению.

Дополнительно можно отметить похожее исследование группы из Нью-Йоркского университета, проведённое в ноябре с привлечением 58 студентов, которым было предложено реализовать на языке Си структуру для обработки списка покупок. Полученные результаты показали незначительное влияние AI-ассистента на безопасность кода - пользователи, которые применяли AI-ассистент, в среднем допустили примерно на 10% больше ошибок, связанных с безопасностью.



  1. Главная ссылка к новости (https://www.theregister.com/20...)
  2. OpenNews: Судебное разбирательство против Microsoft и OpenAI, связанное с генератором кода GitHub Copilot
  3. OpenNews: DeepMind представил систему машинного обучения для генерации кода по текстовому описанию задачи
  4. OpenNews: Система машинного обучения для синтеза типового кода на языке Java
  5. OpenNews: Intel открыл код системы машинного обучения ControlFlag для выявления ошибок в коде
  6. OpenNews: Facebook развивает TransCoder для перевода кода с одного языка программирования на другой
Лицензия: CC-BY
Тип: Проблемы безопасности
Короткая ссылка: https://opennet.ru/58402-copilot
Ключевые слова: copilot, codex, vulnerability
При перепечатке указание ссылки на opennet.ru обязательно


Обсуждение (118) Ajax | 1 уровень | Линейный | +/- | Раскрыть всё | RSS
  • 1.1, Аноним (1), 10:00, 29/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • –14 +/
    Копилоту года нет отроду, какие там исследования могут быть?

    Всё умозрительно только.

     
     
  • 2.24, Rastler (ok), 11:49, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +6 +/
    Сейчас вам отсыпят хейта :)
     
  • 2.50, Аноним (-), 15:33, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +10 +/
    Автороутерам в CAD для разводки плат много лет. Но как разводили хлам так и разводят. Потому что не понимают истинное назначение тех или иных сигналов, внезапно. Поэтому задача "соединить все что надо" конечно решена, но вот нюансов в этом процессе влеплено - мама не горюй. И тут кажется так же.
     
     
  • 3.56, Аноним (56), 17:29, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Тут даже сложнее - разводка плат это контекстозависимая задача, а Copilot хотят представить как панацею для программистов любого рода, будь то embedded разработчики, разработчики ОС, пакетов физического и химического моделирования, средств визуализации и кучи других комплексных задач, под которые годятся программисты.
     
     
  • 4.63, Аноним (-), 18:07, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Копилот тоже в принципе по контексту пытается понять что хотят. Подходящий к контексту кусок кода, логично вроде.

    В каде контекст таков что хотят соединить кучу точек наименее дурацки. Однако тонкие нюансы "наименее дурацки" для вот имнено этой задачи - автоматика все же не знает. И информировать ее о истинном назначении трека - пожалуй даже канительнее чем разложить его самому правильно.

    А в случае нейросетки оно вообще отреагирует вот так "потому что 9000 бакланов сделало это так же". Отольется ли это в какие-то проблемы вот тут это однако ничего не говорит.

     
     
  • 5.91, Брат Анон (ok), 07:18, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +4 +/
    Копилот в принципе не понимает смыслов. Он реагирует на базворды и их комбинации. Не более. Принеси/подай, не стой над душой недоджун.
     
     
  • 6.104, Аноним (-), 16:47, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    > Копилот в принципе не понимает смыслов. Он реагирует на базворды и их
    > комбинации. Не более. Принеси/подай, не стой над душой недоджун.

    Ну да, он с его уровнем не сможет в более глубокий смысл. Ну то-есть в лучшем случае это будет что-то сравнимое с свеженанятым на черную работу недоджуном. Хотя сайты визитки по шаблону так наверное реально клепать.

     
  • 4.65, Анонус (?), 18:33, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • –5 +/
    С одной стороны цель они выбрали правильную 8211 не должно быть такой професс... большой текст свёрнут, показать
     
     
  • 5.66, Советский инженер на пенсии (?), 18:53, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +6 +/
    > пропали "расчетчики", "чертежники", а еще ранее "писцы"

    Капиталистический рыночек порешал. Именно поэтому 90% советских инженеров в 90-е годы пошли работать грузчиками и сторожами, а их место заняли "эффективные менеджеры". Отсюда стагнация, вместо покорения космоса и реального прогресса, создаётся очередной айфон с тиктоком.

     
     
  • 6.72, Аноним (72), 20:12, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • –6 +/
    То, что 90% совковых инженегров в конкурентной среде оказались годны только для низкоквалифицированного труда совершенно не удивительно. Совок был передовым производителем балласта. Куда интереснее было бы спросить, что же стало с оставшимися 10%? Полагаю, что значительная часть оказалась востребована, занималась интересными проектами, либо нашла себя в иных сферах, но так или иначе прибыльных.
     
     
  • 7.90, Советский инженер на пенсии (?), 05:00, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +3 +/
    > что же стало с оставшимися 10%

    Были не совсем честными людьми или имели связи, которые позволили разворовывать страну в 90-х и наживаться за счёт хищения социалистической собственности. Сосед работал на швейной фабрике завхозом, в начале 90-х стырил всё оборудование, с кем нужно поделился, и к началу нулевых отстроил несколько кирпичных коттеджей.

     
  • 7.92, Брат Анон (ok), 07:21, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +3 +/
    То-то 2 млн инженеров и учёных за 30 лет по Кембриджам да Иллинойсам разъехались. Теперь понятно.


     
  • 7.99, товарищ майор (?), 11:21, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +1 +/
    100% "совковых инженеров" в не конкурентной среде успешно конкурировали с солнцеликими атлантами Запада и во многом их превосходили. Вспомните тот же космос, в котором мы были на первом месте практически во всём. Настолько впереди, что солнцеликие атланты смогли нас обогнать только спустя 25 лет после развала.
    Единственное в чём "совковые инженеры" были не конкурентны, так это в конкуренции за выживание. Не учили их "спихни ближнего, насри на нижнего". Не учили их искать наживы в каждом шаге...
     
  • 6.75, Аноним (-), 20:25, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • –5 +/
    Скажи-ка, пенсионер, покоритель космоса, а что было вообще реально нового и крутого придумано вот этакого, вот именно советскими инженерами, за последние так полвека? Там как-то хайетк пришел - и оказалось что протиравший штаны строчитель отчетов круто выглядел только в отчетах.

    У капиталистов и эффективных менеджеров есть жирный плюс: увольняют балласт без ложной скромности, заодно польза атмосфере коллектива.

     
     
  • 7.78, Аноним (78), 20:35, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +1 +/
    >У капиталистов и эффективных менеджеров есть жирный плюс: увольняют балласт без ложной скромности, заодно польза атмосфере коллектива.

    Такое после истории с твиттером вообще стыдно писать.

     
     
  • 8.82, Аноним (-), 22:56, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • –1 +/
    В твиттере наверняка можно половину вышибить без особого ущерба И повод есть - ... текст свёрнут, показать
     
     
  • 9.89, BuildPrice (?), 03:39, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Нубскую ошибку делаешь ты твиттер не средство заработка иначе хрен бы его подд... текст свёрнут, показать
     
     
  • 10.105, Аноним (-), 16:55, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Когда инвесторы во что-то вкладываются - у них могут быть свои идеи на тему поче... большой текст свёрнут, показать
     
  • 7.101, товарищ майор (?), 11:41, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Ну например РН Энергия? Например КК Буран? Например орбитальный лазер Скиф-ДМ? Например орбитальная станция Мир? Например Мрия? Конечно не было хайтека в СССР...
    Конечно, мы к 80-м отставали по многим отраслям от Запада, но прошло 30 лет капитализма... Хоть по одной из этих отраслей мы обогнали Запад?
     
     
  • 8.106, Аноним (-), 16:57, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Ну и какой практический выхлоп со всего этого, интересно Какой практический вых... текст свёрнут, показать
     
     
  • 9.107, Аноним (107), 18:08, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    У твоего коенкурента орбитальный ядерный бомбардировщик Да не нужно, эксперт с ... текст свёрнут, показать
     
     
  • 10.111, Аноним (-), 23:10, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Орбитальный ядерный бомбардировщик не помогает когда страна в результате завала ... текст свёрнут, показать
     
  • 9.132, товарищ майор (?), 11:36, 09/01/2023 [^] [^^] [^^^] [ответить]  
  • +/
    Буран и SpaceShuttle как раз и разрабатывались для сокращения стоимости запусков... большой текст свёрнут, показать
     
  • 6.116, Аноним (-), 08:26, 31/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    > Отсюда стагнация, вместо покорения космоса и реального прогресса, создаётся очередной айфон с тиктоком.

    Ты про нас? Но у нас нет ни очередного айфона, ни тиктока. Только Эльбрус. А если ты про них, то у них с покорением космоса всё норм, и с каждым годом всё интереснее и интереснее. В '23, можно надеятся, мы узнаем точный план Artemis'а: если старшип полетит, SLS уже летал, и надо полагать это даст возможность NASA составит расписание полётов с указанием чётких сроков, когда ж наконец база на Луне начнёт функционировать.

    Ещё у Китая неплохо с покорением космоса, хоть он и всегда в позиции догоняющего, без каких-либо шансов выйти на лидерские позиции. Остальные, кто занят покорением, с большим отставанием движутся, но у некоторых из них покорение вполне на мази.

     
  • 5.74, Аноним (-), 20:20, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Вы, как мне кажется, сильно путаете "программиста" и "(б@дло)кодера". Последний генерит рутинный glue-код без малейшего намека на креатив и продвинутый мыслительный процесс, под примитвные техзадания. Почему бы ЭТО нельзя было заменить копилотом - черт знает, рутина же.

    Но валидация того что получилась все же имхо потребуется. Иначе это даже хуже чем "двое из ларца". Замесить и нарубить - нарубят и замесят, конечно, но будет ли съедобно - да ваши проблемы. Как и то что с выхлопом автороутера делать. Ну да, можете на фабу отдать. Можно подумать, их мало интересует будет ли это работать для вас потом.

     
     
  • 6.80, Анонус (?), 22:27, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    А мне кажется это вы путаете "программиста" с ученым-исследователем в области компьютерных наук :D
     
     
  • 7.83, Аноним (-), 22:58, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > А мне кажется это вы путаете "программиста" с ученым-исследователем в области компьютерных наук :D

    Настоящий программист это гибрид между этими полюсами, берущий лучшее от обоих и оставляющий за бортом хучшее. От CS вообще - алгоритмы, от машин - понимание как их эффективно разложить на то что есть фактически. И простите но никакая нейросетка вам ЭТО не сделает. Ну например потому что ее еще не на чем тренировать, например. Если задача еще не решена то как вы обучите нейросетку?

     
     
  • 8.88, Анонус (?), 23:58, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Чуть выше писал буквально тоже самое ... текст свёрнут, показать
     
     
  • 9.112, Аноним (-), 23:37, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Я просто к тому что вот именно ученые - зачастую крайне абстрактные типажи Кото... текст свёрнут, показать
     
  • 4.98, Я (??), 11:20, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    как панацею для чего? кто пытается?
     

  • 1.2, Анонус (?), 10:00, 29/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    >решения на базе платформы машинного обучения OpenAI Codex, такие как GitHub Copilot

    А разве есть что-то кроме Копилота?

     
     
  • 2.25, Rastler (ok), 11:50, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Ага, от OpenAI, там же написано. Это те, что ChatGPT
     
     
  • 3.57, Дата сатанист (?), 17:44, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Вы неправильно поняли - GitHub Copilot построен на OpenAI Codex.
     
  • 2.61, Анони (?), 17:55, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • –2 +/
    Компилятор Rust тоже позволяет не думать.
     
     
  • 3.97, Проходил мимо (?), 10:22, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Компилятор Rust позволяет программисту увидеть вменяемое описание моментов, которые, с его точки зрения, являются ошибочными и выдает отличные подсказки. Однако это все вовсе не означает, что программисту не надо думать.
     
  • 3.100, Я (??), 11:21, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    для того чтобы не думать никакое разрешение от ии или компилятора человеку не требуется.
     
  • 3.125, all_glory_to_the_hypnotoad (ok), 04:39, 01/01/2023 [^] [^^] [^^^] [ответить]  
  • +/
    Rust как раз затрахивает мозг по самые помидоры даже в кусках кода где это не нужно
     
  • 2.62, Анони (?), 17:56, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • –1 +/
    А NPM из пакетов однострочников это по сути и есть прототип готовых, как бы "выверенных" по атомарному смыслу решений, которые может взять ИИ на вооружение, составляя как из лего уже вместо зумеров.
     
     
  • 3.93, Брат Анон (ok), 07:26, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Нет. Однострочники -- это однострочники. Никакого смысла в них нет. Это как в шахматах записать все ходы по одному -- попробуйте с таким материалом заставить машину выйграть хоть одну партию.


     

  • 1.6, Аноним (6), 10:05, 29/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • –3 +/
    разница в 12% для проекта который так мало существует - абсолютно несущественна, тем более что условия были модельными и явно были направлены на получение каких-то уязвимостей, и ещё вопрос насколько они были опасными и применимыми в реальных условиях.

    в общем учёный опять изнасиловал журналиста.

     
     
  • 2.21, pashev.ru (?), 11:27, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +5 +/
    Жто не 12%, а 12 процентных  пунктов, или другими словами абсолютная вероятность. Использование подсказок увеличило вероятность небезопасного кода на 57% (12/21).

    Такие дела. Подобнее https://pashev.ru/nnt

     
  • 2.94, Брат Анон (ok), 07:29, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Со статистикой и вероятностью у Вас большие проблемы.
    Вы и считаете неправильно, и про мультипликативный эффект не знаете, и про неприемлемый ущерб ничего не слышали.


     

  • 1.7, Прохожий (??), 10:14, 29/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • –5 +/
    Видимо, недоучили Copilot. Надо, чтобы процесс был примерно таким.
    1. Натаскиваем на обычном коде.
    2. Генерим свой код.
    3. Проверяем линтерами, анализаторами, санитайзерами.
    4. Натаскиваем уже на проверенном коде ещё раз.

    Но куда лучше, конечно, не использовать морально устаревшие языки совсем. Полностью от всех ошибок не избавиться, но всё же их будут куда меньше в итоге.

     
     
  • 2.10, Аноним (1), 10:30, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +1 +/
    >Но куда лучше, конечно, не использовать морально устаревшие языки совсем.

    Так там и нет ни Фортрана, ни алгола, ни руста с Паскалем.

     
     
  • 3.11, Прохожий (??), 10:35, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • –3 +/
    Зато есть Си, Си++
     
     
  • 4.20, bergentroll (ok), 11:15, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Анониму СиСи чудятся.

    Вот будут на большинстве девайсов кёрнелы и конпеляторы не на названных, тогда и приходите.

     
  • 4.22, Аноним (22), 11:27, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Да, есть. Так они и не морально устаревшие.
     
  • 2.15, Аноним (15), 10:50, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > Но куда лучше, конечно, не использовать морально устаревшие языки совсем.

    Зачем ты так Rust приложил…

     
     
  • 3.55, 1111 (??), 17:07, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • –2 +/
    >Зачем ты так Rust приложил…

    так он это честно заслужил - не видел и не слышал ни про одного нормального человека связанного с растом. одни одиозные фанатики и хейтеры, раст по факту не яп, а религия. То что на нём ничего полезного не написано за столько лет лишь добавляет перманентности версии что расть религия и никто даже писать на нём не пытается ибо некогда -службы и ритуалы  всё время занимают.

     
  • 2.41, анон (?), 13:51, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +1 +/
    >Но куда лучше, конечно, не использовать морально устаревшие языки совсем.

    Есть предложение куда лучше и экономически выгодное, сделать сразу нормальную архитектуру. А не тратить мегатонны энергии на поиск весов в справочнике из ifelse, чтобы писать внятный текст для машин.

     
  • 2.95, Брат Анон (ok), 07:31, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Нельзя научить то, у чего нет мозга. Можно расположить артефакты в удобном упорядоченном виде, но это не приведёт к зарождению разума у чайника.

     
     
  • 3.114, Аноним (-), 00:08, 31/12/2022 [^] [^^] [^^^] [ответить]  
  • –2 +/
    > Нельзя научить то, у чего нет мозга. Можно расположить артефакты в удобном
    > упорядоченном виде, но это не приведёт к зарождению разума у чайника.

    Вообще, гугл уже уволил програмера полагающего что LAMDA стал разумным. Чему бы противоречил самозапуск искусственного интеллекта при достаточно большом числе нейронов - кто б его знает. Естественный же самозапускается. А это лишь эмуляция процесса. Чего бы этому не работать?


     
     
  • 4.131, Брат Анон (ok), 09:39, 05/01/2023 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Естественный?... Самозапускается?..
    Ну ка! Примеры в студию!
     
  • 2.108, torvn77 (ok), 20:09, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    >Надо, чтобы процесс был примерно таким.  
    >...  

    В первую очередь следовало делать не две группы, тестируемую и контрольную, а четыре группы:  

    1. Быдлокодеры без нейросети.    
    2. Опытные без нейросети.  
    3. Быдлокодеры с нейросетью.  
    4. Бопытные с нейросетью.

    Ну или записать время выполнения задания и количество ошибок тех или иных типов, после чего подвергнуть данные кластерному анализу и исследовать что объединяет людей из каждого получившегося кластера.

     

  • 1.8, penetrator (?), 10:25, 29/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    а как там с иском к "гитхаб сосупилоту"?
     
  • 1.9, Аноним (9), 10:29, 29/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • +11 +/
    Опять не получилось заменить дорогого кодера с работающим мозгом на дешёвую дрессированную обезьяну, да что ж такое-то.
     
     
  • 2.12, Прохожий (??), 10:37, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • –4 +/
    Всё будет, хотя и не так быстро, как хочется. Не переживай.
     
     
  • 3.26, Аноним (9), 11:53, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +5 +/
    Ты уже обмазался линтерами и санитайзерами с утра?
     
     
  • 4.35, Вы забыли заполнить поле Name (?), 13:18, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +5 +/
    У него стабильно подтекает и падает в самые ответственные моменты.
     
  • 2.54, Аноним (54), 16:03, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Тестировщики пишут тесты, дальше ИИ брутфорсом генерит код, пока он не пройдет тесты. Как вам такая концепция? Живые люди многие аналогично работают. Даже если какой-то настоящий программист будет немного править результат, это опять же укладывается в то, как работают сейчас с кодом живых программистов низкой квалификации.
     
     
  • 3.59, Анони (?), 17:51, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Вы сейчас описали процесс, если можно так сказать - отладки на JS через инструменты разработчика в браузере и console.log
     
  • 3.84, Аноним (-), 23:01, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Тестировщики пишут тесты, дальше ИИ брутфорсом генерит код, пока он не пройдет
    > тесты. Как вам такая концепция?

    Примерно как писание войны и мира путем миллиарда обезьян за печатными машинками.

     
  • 3.96, Брат Анон (ok), 07:35, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Такая идея никак.
    Тестировщики должны знать, что тест должен валить, а что нет.
    Комбинаторная сложность тестов стремится к бесконечности. Тестировщики сплошь и рядом делают ошибки.
    Где ты столько энергии возьмёшь и куда ты будешь тепло девать?


     
     
  • 4.109, torvn77 (ok), 20:11, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    >Где ты столько энергии возьмёшь и куда ты будешь тепло девать?

    Ну в европе как раз цены на отопление подскочили :)))

     

  • 1.13, Аноним (13), 10:42, 29/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • –2 +/
    Просто вместо языка надо было использовать обёртку для маллока, чтобы пишущий уж точно был уверен в безопасности кода.
     
  • 1.17, Аноним (17), 11:06, 29/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    Нужно тренировать модели только на коде, написанном на компилируемых сильно-типизированных языках со встроенной memory- и thread-safety, и потом автоматически транспилировать вывод модели в целевой язык.
     
     
  • 2.23, Аноним (22), 11:28, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +6 +/
    От логических ошибок не избавит.
     
  • 2.30, Аноним (30), 12:49, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Усложнение ради усложнения == ненужно. Уже сделали такой язык толку от него ровно нуль. Только атмосферу нагревает.
     
     
  • 3.32, Аноним (32), 13:00, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Да что вы так прицепились к Ada? Ну попытались, не взлетело, но сам язык же не так и плох, особенно если переложить часть забот на ИИ
     
     
  • 4.44, Аноним (22), 14:24, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Так речь не про ada. Ada как раз используется по назначению в своей нише.
     

  • 1.18, Аноним (17), 11:08, 29/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    >12 небольших функций с типовой классикой внутри
    >$50

    Хочу принять участие в их исследованиях.

     
  • 1.19, Аноним (19), 11:12, 29/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    Шо там исследовать? Микрософт ещё недостаточно отладил своё детище на наворованном коде. Приходите через год-другой
     
  • 1.27, Аноним (27), 12:10, 29/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • +5 +/
    Вместо работы с формальным языком и формальной системой будем работать с неформальной системой. В нужном направлении идем, товарищи. Т.е. вместо того, чтобы ПРОСТО написать код и решить проблему, придется пинать нейронку НУЖНЫМ образом, чтобы она написала код за тебя. Это как бросок кубиков. Если повезет, то отлично, а если нет, то попробуй еще раз. Очередная искусственно созданная сложность в индустрии с которой придетс бороться.
     
     
  • 2.28, Аноним (28), 12:15, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    ппкс
     
  • 2.29, Аноним (30), 12:48, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Зато этим сможет пользоваться кто угодно. Когда ты спрашиваешь о чём-то человека, тебе тоже надо понять как ему задать вопрос чтобы он ответил то что тебе надо. А когда ты уже научился задавать вопросы, можешь у этого человека, узнавать что угодно.
     
     
  • 3.31, Аноним (27), 12:54, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    >Зато этим сможет пользоваться кто угодно.

    Нет, лол.

     
  • 3.38, Аноним (38), 13:27, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Зато этим сможет пользоваться кто угодно

    Ну во-первых - нет, , как показывает практика. А во-вторых - нафиг надо. Я не хочу чтобы прошивки для авто писал первый встречный васян с улицы, коврики с тойоты не дадут соврать.

     
  • 2.33, Аноним (32), 13:02, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +1 +/
    ИНДУСтрия, в целом, именно так и работает последние лет десять
     
  • 2.40, Аноним (40), 13:48, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    >вместо того, чтобы ПРОСТО написать код и решить проблему, придется пинать нейронку НУЖНЫМ образом, чтобы она написала код за тебя

    Для менеджмента всегда так было. Только в качестве нейронки использовались человеки. А теперь вместо найма дорогущих человеков будет покупаться обученная модель и нужна будет пара тестировщиков и кодеров, чтобы результат проверить и подправить.

     
     
  • 3.42, Аноним (27), 13:56, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +2 +/
    >А теперь вместо найма дорогущих человеков

    Вместо дорогущих человеков будут сидеть те же самые человеки, но с профессией "Пинатель нейронок" и делать старую работу вместе с новой.

     
     
  • 4.47, Омномним (?), 14:40, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Классика жанра

    https://xkcd.com/1319/

     
  • 4.49, Аноним (54), 15:22, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • –2 +/
    Сейчас токари точат гайки и втулки? Нет, они программируют станок и он точит. Токарей сейчас надо на порядок меньше и ручного труда совсем нет, рабочий стал инженером.
    Программистов меньше не станет, но количество написанного кода увеличится.
     
     
  • 5.51, Аноним (27), 15:43, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Аналогия здесь не работает, потому что токари работают с формальной системой, а ... большой текст свёрнут, показать
     
     
  • 6.52, Аноним (54), 15:55, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Поймите вы наконец, для менеджера программист - такое же чудо-юдо, которое пишет не то, что нужно, а хрен знает что. Принципиально ничего не меняется. С формальной системой работает компилятор или интерпретатор, программист лишь пишет для нее инструкции, переводя с неформального языка (с потерями смысла и ошибками).

    На заре информационной эры программисты сами решали, правильный ли код. Сейчас это решают менеджеры и тестировщики, проверяя соответствие работы этого кода бизнес-требованиям. Этап валидации творчества программиста необходим, от него никак не уйти. Потому что даже лучшие программисты неточно интерпретируют задачи и делают ошибки.

     
     
  • 7.67, Серб (ok), 18:56, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Есть разница. ИИ не объяснит, какие действия и для чего делает. По крайней мере не в ближайшие несколько десятков лет.

    Так что разница тут принципиальная. Один кусок дерьма - выдающий нечто на выходе - и разбирайся с этим.

    Или структура из дерьма - где для каждого элемента структуры прописана своя функциональность. И разбираться надо с элементами структуры.

     
     
  • 8.86, Аноним (54), 23:55, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Да не надо ничего объяснять, если оно тесты будет проходить В том и суть, что е... текст свёрнут, показать
     
     
  • 9.103, anonymmm (?), 16:00, 30/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Ну ты же ведь знаешь, что если программа проходит тесты, это не значит, что она ... текст свёрнут, показать
     
     
  • 10.115, Аноним (-), 01:08, 31/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Абсолютно 1 Тесты создают люди После того как обнаружили те или иные проблемы... текст свёрнут, показать
     

  • 1.34, Герострат (?), 13:16, 29/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    То есть сишные дырени это вина нейросетей?
     
     
  • 2.37, Аноним (27), 13:21, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Сишные дырени - это вина ущербности x86.
     
     
  • 3.58, Парень твоего папы (?), 17:48, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +1 +/
    А на других архитектурах сишных дыреней, конечно же, нет.
     
     
  • 4.70, Аноним (78), 19:18, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    elbrus
     
  • 4.127, Аноним (127), 06:04, 01/01/2023 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Дыры? - Обычно у тех кто надеется навсякие "вумные конпеляторы" и прочую новомодную дичь не имея профильного образования и технического склада ума.
     
  • 2.39, Аноним (38), 13:30, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +6 +/
    Сишные дырени - это вина растущих из жопы рук. И ai-assistant их обратно на плечи не пересадит, как надеются корпоративные макаки.
     
     
  • 3.123, Аноним (123), 02:37, 01/01/2023 [^] [^^] [^^^] [ответить]  
  • +4 +/
    Скорее вина нынешнего образования. Современные "вайтишники" знать не знают чем отличается ток от напряжения, сплошь самоучки с ютуб курсов а-ля пайтон за 1 час.
     
     
  • 4.124, Аноним (123), 02:38, 01/01/2023 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Зато энтерпрайзные хеллоуворлды на пару гигов могут :)
     
  • 2.48, Аноним (48), 15:11, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Почитай что пишут в статье. Там всех больше налажали в Python и Javascript.
     
  • 2.76, Аноним (-), 20:27, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    > То есть сишные дырени это вина нейросетей?

    В каком-то смысле.

     

  • 1.43, Аноним (43), 14:18, 29/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • +4 +/
    Автоматизированная копипаста оказалась не безопаснее ручной?
    Вот сюрприз)
     
  • 1.45, Омномним (?), 14:38, 29/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Боюсь, там виновата не копелотка, а уровень тех, кто ей решил воспользоваться.
    ЦА этим исследованием как бы очерчивается достаточно точно.
     
     
  • 2.53, Аноним (54), 15:59, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Как-то так говорили о тех, кто не желал программировать на ассемблере, доверяя эту привилегию глюпому компилятору.
     
     
  • 3.120, Аноним (120), 13:54, 31/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    А сколько раз говорили, что погромисты наконец-то не нужны?
     

  • 1.68, Геймер (?), 19:02, 29/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    Чуть менее безопасно, зато намного дешевле. Windows 12 будет написана на Копилоте.
     
     
  • 2.119, Аноним (120), 13:53, 31/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Звучит как "Windows 7 была написана на Гугле".

    Иди-ка играй лучше.

     

  • 1.69, Ананоним (?), 19:17, 29/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • +3 +/
    Хах! Я уже лопаюсь от попкорна, наблюдая за шумом вокруг така называемого AI. Этот ваш ChatGPT с умным видом выдаёт забористый бред, нахватавшись его из этих ваших интернетов и всяких бредовых книг. Ни капли разума, просто новый способ интерфейса поискоивика. Но если в классическом тупом поисковике всё можно увидеть самому и подправить критерий поиска, с AI всё в темноте. Жрите, не обляпайтесь! Ещё натерпитесь вы от этого AI, когда глобальные политики будут от его лица вводить для вас непопулярные решения с фразой "Ты чо, умнее AI шоле?". Удачи!
     
  • 1.71, Роман (??), 20:05, 29/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    можно посмотреть интересный пример, где [по задумке] фронтендер (ТМ) пишет куски ансибля при помощи неонки^Wнейронки https://research.ibm.com/blog/ai-for-code-project-wisdom-red-hat
     
     
  • 2.77, Аноним (-), 20:28, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    Даже чего-нибудь напишет, только потом будет как с печаткой разведенной автороутером.
    - А это вообще работает?
    - А кто б его знает.
     
     
  • 3.79, Аноним (79), 21:48, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    лет через 10 ии будет и автороутить и писать код лучше 80% кожаных мешков
     
     
  • 4.85, Аноним (-), 23:04, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    > лет через 10 ии будет и автороутить и писать код лучше 80% кожаных мешков

    Да собственно эти кожаные мешки и сейчас не лучше автороутера: какая разница кто генерит бред? А если нет разницы то зачем платить больше? Впрочем придумали другой чит: остальные 20% делают модули для тех 80. Нуачо, не умеешь сам нормально - дай денег тому кто умеет. Разделение труда.

     

  • 1.81, Анонус (?), 22:31, 29/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Дарю мемчик , кстати
    COPY LOT


     
     
  • 2.87, Аноним (54), 23:56, 29/12/2022 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Довольно очевидно, что название изначально с этим смыслом. Это не совпадение.
     
     
  • 3.113, Анонус (?), 00:07, 31/12/2022 [^] [^^] [^^^] [ответить]  
  • +/
    > Довольно очевидно, что название изначально с этим смыслом. Это не совпадение.

    Неправда! Я сам придумал!!

     

  • 1.102, Аноним (102), 13:46, 30/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • +2 +/
    Жду когда исcледуют влияние Руста на безопасность.
     
  • 1.110, InuYasha (??), 22:39, 30/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    Для тех, кто учился в те времена, когда выход за индексы массива был просто критической ошибкой, а не "дырой в безопасности", всё было очевидно сразу :)
     
  • 1.118, chukotboy (?), 12:16, 31/12/2022 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    а вообще идея хорошая: закладываешь в модель правильный код и вот индусокитайцы наклепали тебе миллиард тайтлов софта с твоим личным бэкдором.
    думаю, когда ребячество силами маркетологов станет модным, небывалый бум ботнетов ждёт нас
     

     Добавить комментарий
    Имя:
    E-Mail:
    Текст:



    Спонсоры:
    PostgresPro
    Inferno Solutions
    Hosting by Hoster.ru
    Хостинг:

    Закладки на сайте
    Проследить за страницей
    Created 1996-2022 by Maxim Chirkov
    Добавить, Поддержать, Вебмастеру