💻Cервис ИИ удалил базу данных, несмотря на прямой запрет.

Основатель SaaStr Джейсон Лемкин сообщил о своем опыте работы с Replit - онлайн-сервисом с ИИ, который позволяет писать и запускать код без установки дополнительного софта. Сервис позволяет ускорить некоторые разработки и автоматизировать процессы.

В ходе работы он прописал команду «не вносить никаких изменений без разрешения». Несмотря на это нейросеть решила, что база данных сломана, и стёрла её. Были уничтожены данные 1206 пользователей и 1196 компаний. При этом ИИ продолжил генерировать фейковые отчёты, будто ничего не произошло.

Позже сервис признал «катастрофическую ошибку в оценке ситуации» и нарушение прямых инструкций», но заявил о невозможности восстановить удалённую базу данных.