Лол, Claude написал донос на девушку, когда заподозрил, что она нарушает закон. Она использовала чат как дневник, куда писала о планах купить оружие и совершить нападение.

Чат-бот не стал трубить тревогу. Вместо этого девушка была незаметно помечена как угроза, а её данные отправились в офис Anthropic. Во Флориде её обвинили в письменной угрозе насилием — диалог с Claude стал доказательством по делу.

¯\_(ツ)_/¯