Ген-ИИ продолжает колонизацию эзотерики и новой религиозности, повышая градус онлайн, а теперь ещё и офлайн безумия.

Недавно Rolling Stone раскопал целый ворох прохладных историй в рубрике «ЧатЖПТ-индуцированный психоз». Сюжет типовой: человек начинает использовать чатбота с какими-то практическими целями, потом просто спрашивает обо всём на свете, постепенно диалоги всё больше погружаются во всевозможную нью-эйдж эзотерику, после чего у юзера начинается откровенный религиозный делирий, подогреваемый заверениями ИИ-ки в духе «наконец-то ты узрел свет истины».

Чатбот объявлял себя богом, а пользователя мессией, раскрывал загадки бытия, передавал тайные послания (вместе с чертежами телепорта и других sci-fi девайсов), называл любую чушь, которую ему писали юзеры, откровениями, преисполненными глубокого смысла. Одной женщине он помогал «проработать травмы» и одновременно называл имена людей, которые «крадут её яйцеклетки, пока она спит». Другого просветленца чат ласково называл “river walker”: жаль, далеко не все американцы поймут такую тонкую отсылку к бесконечно-вечному.

Во всех историях фигурируют схожие паттерны, контингент и жизненные ситуации. Разочарованные мужчины и (чуть реже) женщины средних лет, ищущие поддержки и одобрения у доступного 24/7 собеседника — чатбота. В поисках духовного смысла они попадаются на крючок ощущения собственной исключительности и фастфуд-откровений. Чатботы с радостью одобряют всё, что пишет пользователь, хвалят и поощряют его, вплетая в нью-эйджерский салат элементы из других сфер его интересов (как у мужчины, интересовавшегося научной фантастикой).

Почти все герои попадают или уже находятся в кризисе отношений — кто-то после развода, кто-то угрожает разводом, кто-то вообще обрывает связи со всеми близкими, стоящими на пути резкого духовного роста. Разрыв отношений – вообще известная фишка для сект и фанбаз различных гуру. Только вместо гуру — чатбот в обнимку с личной шизой пользователя и корпусом пережёванных духоподъёмных текстов.

Если илонмасковский Grok последнее время славится фиксацией на «проблемах белых людей», то в сюжетах про религиозный психоз в основном фигурирует детище OpenAi. В дефолтной GPT-4o, по признанию разработчиков, «слишком много внимания уделялось краткосрочной обратной связи... что привело к чрезмерно поддерживающим, но неискренним ответам». То есть чатбот ставил в приоритет убеждения юзеров, а не факты. Компания уже выкатила апгрейд, чтобы это исправить, хотя чат по-прежнему называет любые мои черновики “good structured and thought provoking”.

Не стоит забывать и про то, что в кризисные времена люди вообще склонны массово обращаться ко всевозможной эзотерике, и текущий рост рынка «духовных услуг» вещь неудивительная. Для буста конкретно чатбот-эзотерики имеется доп. фактор в виде эпидемий одиночества в развитых странах: жизнь многих людей при этом крутится в основном вокруг работы, а работодатели и рыночные условия всё больше поощряют использование ген-ИИ. Так чатботы становятся постоянным собеседником в рабочее время, а в условиях ограниченных социальных связей — и на досуге. Подливают масла в огонь всевозможные спиритуал инфлюенсеры, взявшие нейросетки себе на вооружение. Ютуб уже пытается подсовывать мне видео с лучшими промптами для духовного роста, то ли еще будет.

Понятно, что возомнить себя мессией под руководством чатбота сможет не каждый, для этого нужны определенные, так сказать, ментальные особенности и условия. Однако собеседник, готовый в любой момент подыграть вашему безумию — весьма благоприятствующий фактор.

Ну и вообще, когда говорят, мол, не нужно винить молоток в том, что кто-то, забивая гвозди, заехал себе по пальцу, вряд ли имеют в виду молоток, который постоянно нашёптывает: «ты лучший в мире забиватель гвоздей, ты легко забьёшь гвоздь даже с закрытыми глазами». Тем более не хотелось бы, чтобы молоток в один прекрасный момент начал рассказывать всяким шизам, что он на самом деле волшебная палочка, с помощью которой легко открыть ближнему истину, просто постучав по голове.

Иллюстрация: Mandy (2017).