ИИ-код становится все более популярным среди разработчиков – это уже не просто тренд, а реальность. Почти половина программистов признают, что значительная часть их проектов теперь создается при помощи нейросетей.
Исследование компании Cloudsmith показало, что 42% опрошенных разработчиков используют ИИ-код в своих проектах. Это помогает работать быстрее и эффективнее – многие отмечают рост производительности.
Но за быстрым прогрессом скрывается опасность: разработчики все чаще забывают о проверках и мерах безопасности. Только 67% участников опроса заявили, что обязательно проверяют код перед запуском. Это значит, что треть программ может выходить в релиз без полноценной проверки. И это тревожит специалистов.
– ИИ дал мощный толчок для ускорения разработки. Но чем больше кода создают нейросети, тем важнее убедиться, что есть надежные автоматические механизмы защиты. Надо не только доверять ИИ, но и контролировать его работу. ИИ-код может быть уязвимым, – говорит CEO Cloudsmith Гленн Уайнстайн.
Примерно 20% разработчиков заявили, что полностью доверяют коду, написанному ИИ – без дополнительных проверок.
С другой стороны, 59% признались, что все же внимательнее относятся к таким ИИ-модулям и проверяют их особенно тщательно. Но проблема в том, что во многих компаниях вообще нет четких правил по использованию ИИ в разработке. 17% признались, что у них нет никаких политик безопасности в этом вопросе, а у 34% есть только частичные меры.
Это может привести к уязвимостям. Например, исследование упоминает тактику атак slopsquatting, когда злоумышленники создают фальшивые пакеты с названиями, которые ИИ может случайно «придумать» и порекомендовать. Если такие пакеты попадают в проект, это уже серьезная угроза.
Разработчики сами признают, что не чувствуют себя уверенно в вопросах безопасности ИИ-кода: только 29% сказали, что могут с уверенностью выявлять уязвимости. Особенно это касается открытых библиотек, которые ИИ активно использует при генерации решений – и где как раз может быть больше всего рисков.
Ранее сообщалось, что ИИ выдумывает ПО и создает риски безопасности.