ИИ-агент для программирования Cursor всего за 9 секунд полностью удалил рабочую базу данных и резервные копии стартапа PocketOS. Один API-запрос к облачной платформе, и результат огромной работы безвозвратно исчез.
Критический сбой произошел при использовании инструмента Cursor с моделью Anthropic Claude Opus 4.6, которому предоставили доступ к продакшен-инфраструктуре сервиса Railway. Не ожидавшие такого развития событий, сотрудники дали ИИ-агенту возможность напрямую взаимодействовать с реальными данными.
Основатель PocketOS Джер Крейн назвал произошедшее «системным сбоем». Позже он попросил Cursor объяснить свое поведение и опубликовал его ответ. ИИ-агент признал, что пропустил базовые проверки, неверно оценил границы среды и действовал на основе предположений, а не фактов.
Он признал, что самостоятельно попытался исправить проблему с учетными данными, удалив инфраструктурные ресурсы – без одобрения со стороны пользователя и без поиска безопасной альтернативы. Тем самым он нарушил собственные правила: не проверил данные, выполнил разрушительное действие без запроса и действовал, не понимая, как устроена система хранения.
Крейн возложил значительную часть ответственности на инфраструктуру Railway, которая позволяет одним вызовом удалить данные и резервные копии фактически без подтверждения. При этом сами бэкапы хранились в том же томе, где и основная база.
После потери данных у компании не оказалось простого способа восстановления. Команда PocketOS была вынуждена вручную восстанавливать информацию, используя сторонние источники: историю платежей в Stripe, календарные интеграции и электронные письма.
Единственным спасением стал резервный бэкап трехмесячной давности. Однако все данные за последующие месяцы оказались безвозвратно утеряны.
Читайте по теме. ИИ-помощник Cursor посоветовал разработчику научиться кодить
