OpenAI готовит к выпуску новую ИИ-модель Astra. В компании утверждают, что это первая LLM, достигшая установленного OpenAI «критического порога кибербезопасности». Об этом сообщает Tech Crunch.
Главная особенность Astra – способность самостоятельно находить неизвестные уязвимости в компьютерных системах и использовать их без помощи человека. Во время специализированного теста ExploitBench модель уже получила максимальный результат.
В компании признают, что такие возможности создают дополнительные риски. Поэтому наиболее продвинутые функции Astra будут доступны ограниченному кругу пользователей. OpenAI также разрабатывает дополнительные системы защиты и отслеживает подозрительные паттерны в поведении модели.
При этом независимой проверки заявлений компании пока нет. OpenAI обещает опубликовать очередные результаты тестов и информацию о безопасности после запуска модели.
OpenAI обещают скорый релиз новой ИИ-модели.
В экспертном сообществе выпуск таких ИИ-инструментов вызывает все больше опасений. В теории Astra может стать мощнейшим инструментом для улучшения кибербезопасности. Впрочем, если злоумышленники смогут «развернуть» ее для взлома, то последствия могут быть катастрофическими.
Читайте по теме. OpenAI наконец запускает безопасный ChatGPT для подростков
