GenAI становится не только инструментом прогресса, но и все более изощренным оружием в руках киберпреступников, которые с его помощью устраивают беспрецедентные ИИ-атаки. По данным консалтинговой компании Gartner, за последние 12 месяцев почти 30% организаций столкнулись с ИИ-ннападениями злоумышленников.
Исследование, охватившее 302 руководителей кибербезопасности в Северной Америке, Европе, на Ближнем Востоке и в Азиатско-Тихоокеанском регионе, показало тревожную статистику:
62% компаний испытали ИИ-атаки с применением дипфейков – от социальной инженерии до эксплуатации автоматизированных процессов.
Чаще всего встречались аудио-инциденты: 44% респондентов сообщили о мошенниках, выдававших себя за коллег по телефону. Дипфейковые видеозвонки отмечены в 36% случаев.
32% организаций столкнулись с подделкой голоса для обхода биометрии, а 30% – с поддельными изображениями при проверке личности.
ИИ-ассистенты стали одной из главных целей злоумышленников. На них воздействуют с помощью так называемых «adversarial prompts» – манипулятивных запросов, которые вынуждают большие языковые модели (LLMs) или мультимодальные системы генерировать вредоносный контент. 32% опрошенных сообщили, что стали жертвами подобных атак.
– С ростом внедрения ИИ атаки с использованием генеративных технологий – фишинг, дипфейки, социальная инженерия – становятся массовым явлением. Одновременно появляются новые угрозы: манипуляции промптами и атаки на саму инфраструктуру приложений на базе ИИ, – отметил вице-президент Gartner Акиф Хан.
Читайте по теме. Хакеры выдают вредоносное ПО за ChatGPT, Microsoft Office и Google Drive.
