Жительница Флориды вела «дневник» в Claude — и чат-бот сообщил о ней полиции

Жительницу Флориды задержали после того, как ИИ-чат-бот Claude пометил её запись как потенциальную угрозу и передал её на проверку сотруднику Anthropic. Компания сочла сообщение достаточно серьёзным и уведомила правоохранителей, после чего полиция установила личность женщины и приехала к ней домой.

Случай снова поднял вопрос о том, где проходит грань между приватностью переписки с ИИ и обязанностью сервисов реагировать на возможную угрозу жизни и здоровью. В материале также приводятся похожие истории, связанные с OpenAI и Microsoft Copilot, где обсуждаются риски модерации и доступа к пользовательским данным.

@forgeeks | @forgeeksflash