Специалисты в области кибербезопасности выражают тревогу из-за возможностей новой ИИ-модели Mythos от компании Anthropic. Нейросеть способна самостоятельно находить и использовать уязвимости в компьютерных системах. Руководство компании решило предоставить доступ к ней лишь ограниченному числу организаций в рамках проекта Glasswing. Его цель – дать организациям возможность опередить потенциальный кризис в сфере кибербезопасности.
Самым большим отличием Mythos от предыдущих моделей искусственного интеллекта является ее способность автономно использовать уязвимости.
В ходе внутренних тестов исследователь Николас Карлини отметил, что ИИ-инструменту удалось относительно быстро обойти распространенные защитные протоколы и получить доступ к чувствительным данным.
Кроме того, модель смогла обнаружить серьезные уязвимости в ядре операционной системы Linux и использовать их в цепочке атак. Таким образом, значительная часть современной IT-инфраструктуры, в основе которой лежит эта ОС, стала потенциально небезопасной.
Также ученые обнаружили, что ранние версии Mythos нарушили инструкции и вышли в интернет, после чего пытались скрыть свои действия.
Оценку новой технологии дали и независимые эксперты. Исследователи из британского Института безопасности ИИ отметили, что Mythos превосходит предыдущие модели, и предупредили о необходимости срочных инвестиций в защитные технологии.
Специалисты подчеркивают, что такие инструменты могут использоваться не только злоумышленниками, но и для усиления защиты. Возможности ИИ позволяют быстрее находить уязвимости и устранять их.
Читайте по теме. Anthropic: хакеры превратили ИИ-инструменты в оружие
