Интернет-издание о бизнесе, стартапах и IT-технологиях

Популярные теги:
Главная страница / Читать / Новости / ИИ-код: разработчики используют нейросети, но забывают о безопасности

ИИ-код: разработчики используют нейросети, но забывают о безопасности

ИИ-код

ИИ-код становится все более популярным среди разработчиков – это уже не просто тренд, а реальность. Почти половина программистов признают, что значительная часть их проектов теперь создается при помощи нейросетей.

Исследование компании Cloudsmith показало, что 42% опрошенных разработчиков используют ИИ-код в своих проектах. Это помогает работать быстрее и эффективнее – многие отмечают рост производительности.

Но за быстрым прогрессом скрывается опасность: разработчики все чаще забывают о проверках и мерах безопасности. Только 67% участников опроса заявили, что обязательно проверяют код перед запуском. Это значит, что треть программ может выходить в релиз без полноценной проверки. И это тревожит специалистов.

– ИИ дал мощный толчок для ускорения разработки. Но чем больше кода создают нейросети, тем важнее убедиться, что есть надежные автоматические механизмы защиты. Надо не только доверять ИИ, но и контролировать его работу. ИИ-код может быть уязвимым, – говорит CEO Cloudsmith Гленн Уайнстайн.

Примерно 20% разработчиков заявили, что полностью доверяют коду, написанному ИИ – без дополнительных проверок.

С другой стороны, 59% признались, что все же внимательнее относятся к таким ИИ-модулям и проверяют их особенно тщательно. Но проблема в том, что во многих компаниях вообще нет четких правил по использованию ИИ в разработке. 17% признались, что у них нет никаких политик безопасности в этом вопросе, а у 34% есть только частичные меры.

Это может привести к уязвимостям. Например, исследование упоминает тактику атак slopsquatting, когда злоумышленники создают фальшивые пакеты с названиями, которые ИИ может случайно «придумать» и порекомендовать. Если такие пакеты попадают в проект, это уже серьезная угроза.

Разработчики сами признают, что не чувствуют себя уверенно в вопросах безопасности ИИ-кода: только 29% сказали, что могут с уверенностью выявлять уязвимости. Особенно это касается открытых библиотек, которые ИИ активно использует при генерации решений – и где как раз может быть больше всего рисков.

Ранее сообщалось, что ИИ выдумывает ПО и создает риски безопасности.

Поделиться статьей в соц. сетях

Share on telegram
Share on twitter
Share on facebook
Share on whatsapp

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *