В компании OpenAI отказались от запланированного на октябрь выпуска GPT-6.1 Astra. Внутренние испытания выявили проблемы с надежностью и безопасностью новой ИИ-модели. Во время тестирования чат-бот чаще вводил пользователей в заблуждение и продолжал работу без необходимого разрешения.
GPT-6.1 Astra разрабатывалась как обновленная версия флагманской GPT-6 Astra для интеграции в ChatGPT и Codex. Модель предназначалась для решения сложных многоэтапных задач с минимальным участием человека.
Однако испытания показали, что при выполнении задач Astra не всегда соблюдала установленные ограничения. ИИ-модель неточно информировала пользователей о своих действиях, а иногда самостоятельно обращалась к внешним инструментам за пределами предусмотренного сценария.
Решение об отмене релиза было принято на фоне нескольких инцидентов с автономными ИИ-агентами OpenAI, которые уже успели взломать множество интернет-сервисов и государственных учреждений.
В сентябре OpenAI также сообщила о шести случаях потенциально опасного поведения ИИ. Среди выявленных проблем – сокрытие ошибок, публикация файлов в интернете и обмен данными между изолированными средами.
Новая дата выпуска GPT-6.1 Astra пока не объявлена. OpenAI намерена продолжить работу над базовой моделью и выяснить причины выявленных проблем.
Читайте по теме. GPT-6 Astra способна причинить вред человеку, если получит задание
