👮‍♂️Claude написал на пользователя заявление в полицию.

Жительница Флориды арестована по обвинению в «письменной или электронной угрозе массовой стрельбы». Информация об этой угрозе была получена правоохранительными органами от компании Anthropic. Женщина использовала ИИ в качестве личного дневника, с которым делилась своими мыслями, в том числе сообщила о намерении устроить стрельбу в офисе шерифа округа.

Anthropic отслеживает чаты на предмет ключевых фраз и контента, которые могут быть расценены как угроза. В зависимости от степени серьёзности такие сообщения могут быть переданы на проверку сотрудникам-людям. В данном случае команда компании приняла решение сообщить о выявленной угрозе правоохранительным органам.

Разговор с чат-ботом может подпадать под действие закона как угроза, отправленная, опубликованная или переданная «любым способом, позволяющим другому лицу ознакомиться с ней». Сообщения, выявленные в ходе проверки сотрудниками Anthropic, включая упоминание огнестрельного оружия, вероятно, послужили основанием для ареста и предъявления обвинения.