Claude «сдал» пользовательницу полиции после переписки об оружии и возможном нападении

Жительница Флориды использовала нейросеть как личный дневник, однако сообщения о желании купить оружие и устроить нападение система расценила как потенциальную угрозу. Информация попала в Anthropic, а позже женщине предъявили обвинение в письменной угрозе насилием.

Переписка с Claude стала одним из доказательств по делу.

КК 🐀