Claude сдал пользователя полиции после записи в личном дневнике.

30-летняя Карли Хеллер из Флориды рассказывала Claude свои мысли и, по словам шерифа, использовала бота как дневник. 26 сентября она написала, что собирается устроить стрельбу в офисе шерифа, а на следующий день сообщила, что купила новое оружие.

Система безопасности Anthropic пометила сообщения как потенциальную угрозу и отправила их на проверку. После ревью компания передала информацию полиции — 30 сентября Хеллер задержали.

Теперь ей уже предъявлено обвинение в письменной угрозе насилием — закон предусматривает за такое до 15 лет тюрьмы. Суд назначен на ноябрь.

Нейро