⚡Claude сообщил в Anthropic о жительнице Флориды, которая советовалась с нейронкой по поводу покупки оружия и рассказывала о том, что собирается напасть на офис шерифа.

По факту, нейросеть стала для нее чем-то вроде личного дневника.

Компания, посчитав сообщения реальной угрозой, передала эти сведения в полицию, где действия женщины посчитали преступлением второй степени тяжести.