Claude написал донос на пользовательницу после того, как она написала ИИ о планах купить оружие и напасть на офис шерифа

Тян использовала чат-бота как личный дневник, но система посчитала сообщения реальной угрозой и передала информацию в Anthropic. Компания после этого обратилась в полицию.

Во Флориде тянку обвинили в письменной угрозе насилием — это преступление второй степени тяжести. Переписка с Claude стала доказательством по делу.

И это не единичный случай.