Если AI удаляет вашу базу данных, виноваты вы, а не AI

Недавно довольно широко разлетелась история про то, как AI агент снес продакшн базу данных и все бэкапы. Главный пострадавший винил в этом вообще всех – разработчиков агента за ложный маркетинг и заявления о том, что он безопасен, хостинговую платформу за вообще наличие возможности дропнуть базу через API.

Но вообще-то, во всех похожих случаях виноват сам разработчик. У AI, как и других инструментов, есть границы применимости. Использовать его для операций, в которых критично важно следование правилам и повторяемость, вроде деплоя базы – очень плохое решение. Все шаги, которые могут быть выполнены детерминистически, должны выполняться именно так.

Поэтому, если вы выдали агенту доступ к продакшн окружению, и отправили его выполнять инфраструктурные задачи, которые можно было бы автоматизировать простым скриптом – сами виноваты.