Claude донес на пользователя полиции

Девушка из Флориды использовала Claude как личный дневник и в какой-то момент написала, что хочет «расстрелять офис шерифа».

Система безопасности чат-бота пометила сообщение как потенциальную угрозу и передала его в Anthropic, дабы об этом сообщить правоохранительным органам.

Полиция установила личность женщины, приехала к ней домой и задержала её. Теперь ей предъявлено обвинение в письменной угрозе насилием, возбуждено уголовное дело.

ИИ-доносы стали реальностью

@NE_MIDa