Сегодня многие программисты используют vibe coding, задействуя ИИ для генерации кода. Однако одна из главных проблем ИИ-помощников при написании кода — это галлюцинации. Модели часто предлагают код, который включает несуществующие пакеты программного обеспечения. Исследования показали, что около 5,2% рекомендаций пакетов от коммерческих моделей фактически не существуют, а у открытых моделей этот показатель достигает 21,7%.
Киберпреступники уже отследили ситуацию с неосторожным vibe coding и используют ее для внедрения вредоносного ПО. Механизм прост: ИИ-модель придумывает название пакета, которого не существует. Затем злоумышленники создают вредоносный пакет с этим названием и загружают его в публичные репозитории. Впоследствии, когда разработчики слепо копируют код, предложенный ИИ, и устанавливают эти пакеты, они, сами того не зная, загружают вредоносное ПО.
– Мы наблюдаем, как разработчики используют vibe coding — они просто просят ИИ сгенерировать решение, копируют предложенный код и двигаются дальше. А иногда ИИ-агент сам устанавливает рекомендованные пакеты. Как итог, разработчики сами устанавливают вредоносное ПО в собственные продукты, – отмечает генеральный директор компании Socket Феросс Абукадижех.
Эксперты говорят, что поддельные пакеты могут выглядеть очень убедительно, с реалистичными README-файлами, фальшивыми GitHub-репозиториями и даже специальными блогами, создающими впечатление аутентичности.
Еще хуже, когда поисковые системы с ИИ-генерацией (например, AI Overview от Google) уверенно описывают такие пакеты как полезные и стабильные, просто копируя информацию из README без какой-либо проверки.
