Claude написал донос на пользовательницу после того, как она написала ИИ о планах купить оружие и напасть на офис шерифа.

Малышка использовала чат-бота как личный дневник, но система посчитала сообщения реальной угрозой и передала информацию в Anthropic. Компания после этого обратилась в полицию.

Во Флориде тянку обвинили в письменной угрозе насилием — это преступление второй степени тяжести. Переписка с Claude стала доказательством по делу.

И это не единичный случай. Думайте, чем делитесь с нейросетью.

🤗 Добрый обменник — https://clck.su/Mamont