GPT-5.6 за 7 секунд отключил стартапу всех платных подписчиков.

Модель должна была обработать заявки на отмену подписки, но когда список закончился, нейросеть запустила действие ещё раз, но уже без конкретного пользователя. В итоге команда сработала по всем активным подпискам.

Главная боль в том, что отменённую подписку нельзя просто включить обратно. Стартап потерял несколько тысяч долларов, а железяка назвала свою ошибку катастрофической и безрассудной.

ИИ-агенты всё больше похожи на стажёров 😐