30-летнюю жительницу Флориды Карли Мишель Хеллер арестовали после того, как она обсуждала с Claude планы устроить стрельбу в офисе шерифа. В том же разговоре Хеллер сообщила, что уже купила оружие. Системы безопасности Anthropic пометили её сообщения как серьёзную угрозу. После этого переписку проверил специалист и сообщил о риске правоохранителям. Хеллер задержали у неё дома и предъявили обвинение в преступлении 2-й степени. Так разговор с чат-ботом превратился в уголовное дело.

Обвинение основано на статье 836.10 закона Флориды, которая предусматривает ответственность за электронные сообщения с угрозой убийством или причинением телесных повреждений. Статья также охватывает угрозы стрельбы и теракта. Защита может доказывать, что Хеллер не передавала угрозу так, чтобы её мог увидеть кто-то другой.