Компания Google сообщила о необычной кибератаке, в которой хакеры, вероятно, использовали нейросети для поиска опасной уязвимости в ПО. По словам исследователей, это может быть первым известным случаем, когда ИИ помог обнаружить и подготовить к использованию так называемую уязвимость нулевого дня – скрытую ошибку, о которой не знают даже сами разработчики. Пока такую «дыру» не обнаружили и не закрыли, злоумышленники могут спокойно использовать ее для атак.
В Google рассказали, что хакеры нашли слабое место в популярном веб-инструменте для администрирования систем с открытым исходным кодом. Уязвимость позволяла обходить даже двухфакторную аутентификацию. Правда, для атаки злоумышленникам все равно требовались логин и пароль пользователя.
По данным Google, хакеры собирались устроить массовую атаку, но специалисты компании успели обнаружить проблему раньше и предотвратили ее использование.
Особенно исследователей насторожило то, что следы в коде вредоносного ПО очень напоминали работу больших языковых моделей. В коде нашли большое количество поясняющих комментариев, характерную структуру Python-кода и даже отдельные «галлюцинации» – ошибки, типичные для ИИ-систем.
«Это лишь малая часть того, что нас ждет, – говорит главный аналитик Google Threat Intelligence Group Джон Халтквист. – Мы считаем, что это верхушка айсберга. Проблема, вероятно, гораздо масштабнее, и это лишь первое ощутимое доказательство».
Опасения усилились после недавнего анонса AI-модели Claude Mythos от компании Anthropic. Разработчики утверждают, что система способна искать уязвимости практически во всех популярных операционных системах и браузерах. Из-за потенциальной опасности доступ к модели решили ограничить и выдать только отдельным компаниям и государственным структурам.
Читайте по теме. Эксперты по кибербезопасности опасаются умений ИИ Mythos от Anthropic
