ИИ официально научился писать доносы. Во Флориде нейросеть Claude сдала полиции свою хозяйку, которая использовала её как дневник.

30-летняя Карли была уверена, что переписка с роботом полностью анонимна, а потому без задней мысли отписывала в чат свои самые мрачные намерения. Сначала девушка упомянула, что хочет расстрелять местный офис шерифа, а на следующий день «похвасталась», что уже раздобыла для этого пистолет. Встроенная система безопасности ИИ мгновенно распознала опасные триггеры и перенаправила диалог живым модераторам из команды Anthropic. Те медлить не стали и сразу же вызвали правоохранителей, слив и переписку, и личные данные американки.

В итоге к дому Карли в Бонита-Спрингс приехали помощники шерифа, задержав её прямо на месте. Сейчас она находится под арестом, ей предъявлено обвинение в письменной угрозе совершения массового расстрела. Вся «конфиденциальная» переписка, которую девушка считала «личным дневником», теперь приобщена к уголовному делу как главная улика.

▶️ Читай нас в «Максе»