Новости конторы П

Claude сдал юзера полиции — бот написал настоящий донос, когда заподозрил нарушение закона.

Девушка использовала бота как личный дневник, и в один из дней написала ИИ, что хочет купить оружие и напасть на офис шерифа.

Чат-бот отметил её как угрозу и отправил донос в Anthropic, которые и сообщили в полицию.

Стражи порядка обвинила её в письменной угрозе насилием — во Флориде это преступление второй степени тяжести, а чаты с нейронкой прошли как доказательства по делу.

Самое интересное — это не единичный случай.

Источник