✔️ Anthropic передала полиции логи чата с угрозами

Жительница Флориды была задержана после того, как автоматические фильтры безопасности Anthropic зафиксировали в ее запросах намерения устроить стрельбу в местном офисе шерифа и упоминание покупки оружия.

Алгоритмы мониторинга выявили триггерные конструкции и эскалировали сессию на внутреннюю команду ручной проверки Safeguards Team.

Та, руководствуясь регламентом компании о предотвращении насилия и экстренном раскрытии данных при угрозе жизни, оперативно передала материалы расследования правоохранительным органам.

Сама обвиняемая заявила помощникам шерифа, что воспринимала чат-бот как «личный дневник» и не предполагала стороннего контроля.

Прецедент подчеркивает технические и юридические реалии работы с публичными ИИ - диалоговые сессии не имеют сквозного шифрования, бэкенд провайдеров осуществляет непрерывный семантический анализ входящих промптов, а пользовательские данные деанонимизируются и передаются властям в обход стандартной судебной процедуры.


@ai_machinelearning_big_data

#news #ai #ml