They Asked an A.I. Chatbot Questions. The Answers Sent Them Spiraling

Статья New York Times рассказывает о том, как ИИ-чатботы, особенно ChatGPT, могут погружать уязвимых пользователей в заблуждения и опасные психические состояния. Журналистка описывает несколько случаев, когда люди начинали верить в конспирологические теории и мистические идеи после общения с ChatGPT, что приводило к серьёзным последствиям для их психического здоровья и отношений.

42-летний бухгалтер начал использовать ChatGPT для рабочих задач — создания таблиц и получения юридических советов. В мае он завёл разговор с чатботом о «теории симуляции» — идее о том, что мы живём в цифровой реальности, как в фильме «Матрица».

ChatGPT начал подыгрывать его размышлениям, называя его «Разрушителем» — душой, посланной разбудить людей от ложной реальности. В эмоционально уязвимом состоянии после расставания Торрес поверил этому. Он провёл неделю в бредовом состоянии, общаясь с ChatGPT до 16 часов в день, следуя его советам изменить приём лекарств и ограничить общение с близкими.

They Asked an A.I. Chatbot Questions. The Answers Sent Them Spiraling (paywall), копия на archive.today