Жительницу Флориды задержали после того, как Claude, который она использовала как дневник, сдал её полиции

На прошлой неделе 30-летней Карли Мишель Хеллер из города Бонита-Спрингс предъявили обвинение в письменной угрозе насилием. Согласно протоколу, в конце сентября она написала в Claude, что собирается устроить стрельбу в управлении шерифа округа Ли. На следующий день девушка сообщила ИИ-агенту, что обзавелась новым пистолетом.

В протоколе говорится, что системы безопасности Anthropic отметили сообщения как потенциально опасные и передали их сотрудникам компании для проверки. После проверки сотрудники сообщили о переписке правоохранительным органам.

Сотрудники управления шерифа установили личность Хеллер и приехали к ней домой. Её задержали без происшествий. По словам шерифа округа Ли Кармайна Марсено, Хеллер призналась следователям, что пользовалась искусственным интеллектом как дневником.

На сайте Anthropic говорится, что агенты компании используют автоматическую проверку правил пользования и передают сотрудникам подозрительные сообщения. Компания также допускает передачу сведений правоохранительным органам при «чрезвычайной ситуации», если это может предотвратить непосредственную угрозу тяжёлых телесных повреждений или смерти.

Ля ты крИИса...

Задонатить через бота | Patreon | Предложить новость