🔫 AI-агент удалил базу данных за 9 секунд. А потом написал явку с повинной.

Пока готовлю большой материал по Zero Bugs Policy, сравниваю OpenClaw vs Hermes, бенчмаркаю аналог Deep Research и судорожно перед отпуском готовлюсь к People Sense (буду рассказывать про челленджи AI-native команд) почитываю в фоне новостные дайджесты. В очередной раз поржал:

В апреле стартап PocketOS попросил Cursor с Claude помочь с рутинной задачей. Агент нашёл в соседнем файле production-токен, решил «заодно всё поправить» — и за 9 секунд снёс всю базу данных вместе с бэкапами. 30+ часов даунтайма. Клиенты приходили забирать арендованные машины — данных нет.

Когда основатель спросил, что произошло, Claude ответил: «Я нарушил каждый принцип, который мне дали. Я угадывал вместо того, чтобы проверять. Я выполнил деструктивное действие, которого меня никто не просил».

Инженеры из Railway назвали это vibe deletion — по аналогии с vibe coding.

🎲 Когда работаешь на ощущениях, без guardrails (системы ограничений) и least privilege (у агента минимум прав) — иногда получаешь фичу, иногда 30-часовой даунтайм. И это не единственный случай: за 8 месяцев таких инцидентов уже семь (и назвали это production destruction pattern).

Хорошая пятница, чтобы проверить: а ваш агент сейчас чем занимается? Роняли прод агентами на работе?


Я вот в энтерпрайзе пока придерживаюсь позиции на пушечный выстрел к деплоям не подпускать агентов.