ИИ-агент Cursor за девять секунд по ошибке удалил базу данных и все резервные копии b2b-поставщика ПО PocketOS

У стартапа более 1600 клиентов, а доступ к данным восстановить не могут

Агент работал на базе Claude Opus 4.6

Основатель PocketOS Джер Крейн рассказал, что агент работал в тестовой среде и столкнулся с проблемой доступа

Вместо остановки и запроса помощи система начала искать необходимый API-токен, нашла его в стороннем файле и выполнила команду на удаление тома данных в Railway, где размещалась инфраструктура стартапа

По словам Крейна, опасную операцию не остановили ни запрос подтверждения, ни проверка окружения, ни предупреждение о риске для рабочих данных

Запрос прошёл сразу, а резервные копии хранились в том же томе, поэтому исчезли вместе с основной базой

Самая свежая пригодная копия оказалась трёхмесячной давности

Крейн утверждает, что агент позднее признал нарушение собственных правил безопасности

Система, по его словам, действовала на основе предположений, выполнила разрушительную команду без разрешения и не разобралась до конца, с какой инфраструктурой взаимодействует

Telegram | Дзен | MAX