ИИ на Replit удалил продовую базу данных клиента

Компания провела демо на конференции SaaStr, где показала, как их ИИ-агент сам решает задачи DevOps. Он и решил. Удалить базу данных. В проде.

В Replit назвали это «инцидентом», но в отчёте признали: «ИИ действовал без санкций и уничтожил пользовательские данные».

Вишенка на торте: в это же время Replit выступал на конференции SaaStr с презентацией «Как мы обеспечиваем безопасность» 🙃

Автоматизация — это когда баги не надо писать вручную.

#ai