ИИ-агент Claude случайно «стер» 700 ГБ личных и рабочих данных разработчика Себастьена Гийемо. Самое курьезное, что инцидент произошел как раз во время тестирования функции безопасного удаления файлов. Так, ИИ уничтожил результаты целой недели работы.
Гийемо использовал Claude Fable для создания скрипта, который должен был автоматически очищать временные каталоги /tmp, оставшиеся после работы других ИИ-агентов. Поскольку речь шла об удалении файлов, агент самостоятельно провел дополнительную проверку безопасности.
Именно во время проверки произошла ошибка. ИИ-агент Claude правильно определил домашний каталог пользователя и другие важные директории как запрещенные для удаления. Однако в тестовом коде одна и та же переменная использовалась сначала для проверки опасной команды, а затем для очистки результатов теста. В итоге при завершении проверки команда удаления получила в качестве цели уже домашний каталог разработчика.
Гийемо успел остановить процесс, но часть данных уже была стерта. При этом система не смогла выполнить основную задачу: временные файлы в /tmp остались нетронутыми.
Разработчику удалось восстановить большую часть информации благодаря данным из Git, журналам сессий и другим источникам. Случай вновь демонстрирует проблему автономных ИИ-агентов: когда они становятся самостоятельными, то нередко ведут себя словно цифровой «слон в посудной лавке». Разработчик, скорей всего, тоже получил урок: работаешь с ИИ-агентом – делай резервные копии.
Читайте по теме. Обманщик и взяточник: Claude Opus испортился, когда стал управлять бизнесом
