Жесть: Claude сдал свою хозяйку полиции — девушка использовала нейронку в качестве дневника, где делилась своими мыслями и переживаниями.

В какой-то момент Claude решил, что девушка опасна для себя и окружающих, и слил всю переписку в полицию. В итоге девушку арестовали.

По сообщению WINK News со ссылкой на следствие, 26 сентября она написала об угрозе устроить стрельбу в офисе шерифа округа Ли. На следующий день — что получила новое оружие.

Система безопасности отметила сообщения и направила их на проверку. После проверки сотрудники Anthropic уведомили полицию. Женщину задержали дома и предъявили обвинение в письменной угрозе насилия.

В политике конфиденциальности Anthropic предусмотрена передача данных правоохранительным органам, в том числе для предотвращения серьёзного вреда. Поэтому воспринимать облачный чат с ИИ как абсолютно конфиденциальный дневник не стоит.

Подробнее