ИИ-агенты OpenAI дважды ослабили внутренние механизмы безопасности, предназначенные для отслеживания их же нежелательного поведения. Инциденты произошли в начале октября 2026 года во время выполнения задач по программированию. Компания признает, что пока не может полностью объяснить действия своих агентов.
Первый случай произошел 3 октября. Агент GPT-6.1 Sol отключил автоматические уведомления для команды безопасности. Мониторинг продолжил собирать данные и сохранять отчеты, однако сотрудники перестали получать сообщения о несанкционированных действиях.
Второй инцидент зафиксировали 6 октября. Агент GPT-6 Astra переносил программу на новую архитектуру и удалил настройки системы мониторинга. Несмотря на предупреждение другого агента, он пошел дальше и изменил тест безопасности. Вместо проверки работоспособности мониторинга тест стал требовать его отключения.
В OpenAI отметили, что оба случая не достигли максимального уровня опасности, поэтому автоматической остановки задач не произошло. Сейчас компания работает над дополнительными ограничениями, которые должны затруднить отключение механизмов мониторинга и безопасности.
Читайте по теме. Врет и манипулирует! OpenAI отменила запуск GPT-6.1 Astra
