Claude сдал пользователя полиции

Девушка из Флориды использовала Claude как личный дневник и в какой-то момент написала, что хочет «расстрелять офис шерифа».

Система безопасности чат-бота пометила сообщение как потенциальную угрозу и передалаего в Anthropic, после чего об этом сообщили правоохранительным органам.

Полиция установила личность женщины, приехала к ней домой и задержала её. Теперь ей предъявлено обвинение в письменной угрозе насилием, возбуждено уголовное дело.

А в компании напомнили, что чат с ИИ не является приватным, и сообщения мониторятся.

ИИ-доносы стали реальностью
r/#technology