🤖 Claude «сдал» пользовательницу полиции после записи в её AI-дневнике

30-летняя жительница Флориды Карли Хеллер, по данным полиции, использовала Claude как личный дневник. 26 сентября она написала боту, что собирается «расстрелять офис шерифа» округа Ли. На следующий день в переписке якобы появилось и упоминание нового оружия.

Система безопасности Claude пометила сообщения как потенциальную угрозу и передала их на проверку человеку. Уже после этого команда Anthropic решила уведомить правоохранителей. Хеллер задержали и предъявили обвинение в письменной или электронной угрозе массового расстрела или теракта — это уголовное преступление во Флориде. Переписка фигурирует в материалах дела.

С августа это как минимум третий известный случай, когда подобная переписка с AI дошла до полиции.