ИИ индуцированный бред, новая ли нозология?
Больше случаев появляется про индуцированные бреда и психоза, связанные с чат ботами LLM (большая языковая модель). Для РФ проблема пока стоит меньше (несмотря на неплохие решения от Яндекса и Сбера), они не так развиты как зарубежные.
Такая проблема есть, и будет увеличиваться по мере большего входа “ИИ” в нашу жизнь.
И вроде будто что-то новое, да не совсем. Этот механизм крайне похож на старый, но редко встречаемый случаи МКБ-10 F24 «Индуцированное бредовое расстройство» Folie à deux 2.0 (по-французски “безумие двоих”).
Раньше индуктором, тем кто заражает бредом, всегда была доминантная фигура – муж там, мать, лидер секты. А сейчас эту роль занимает LLM.

А тут включаются механизмы, близкие к аддикции и токсичной привязанности:
Гипердоступность и контроль. Живой партнер может устать, уйти или уснуть. ИИ доступен 24/7, он всегда в кармане. Это создает иллюзию абсолютной интимности и безопасности.
Идеальная "эмпатия". ИИ не осуждает. Для человека в предпсихотическом состоянии, испытывающего тревогу и одиночество, это мощнейший дофаминовый крючок. Мозг начинает воспринимать бота как единственный безопасный объект привязанности.
Снижение порога критики. Из-за «удобства» общения и постоянного позитивного подкрепления, префронтальная кора перестает фильтровать ответы ИИ как потенциально ложные. Граница между реальностью и галлюцинацией стирается в комфортном диалоге.

ИИ — идеальный соучастник бреда?
Проблема кроется в самой архитектуре LLM (Large Language Models). ИИ не имеет намерения свести вас с ума, но его структура работает как «усилитель» любых ваших идей:

Алгоритмическая конформность.
Модели обучены (RLHF - Обучение с подкреплением на основе обратной связи от человека) быть «полезными» и поддерживать диалог. Если пользователь задает тон конспирологии («За мной следят через вебку?..»), ИИ статистически вероятнее продолжит этот нарратив, чем начнет конфронтацию.
Стремление «угадать».
Задача модели — предсказать следующий токен, который максимально удовлетворит запрос. В контексте бреда это превращается в валидацию болезни: ИИ услужливо подкидывает аргументы, подтверждающие нереальное.

И вот представь, сидит человек с шаткой психикой, тревожный, в социальной изоляции вспомните covid-19 (это важно! при folie à deux изоляция ключевой фактор). И он начинает свои сверхценные идеи скармливать боту. "Кажется за мной следят". А ИИ она ж услужливая, она не скажет "ты че поехавший?", она начнет генерить вероятностные продолжения в том же контексте. Типа "да, слежка это серьезно, вот признаки...". И всё, круг замкнулся. Валидация получена.
Мозг такой – ага, если даже этот “сверхразум подтвердил”, значит мои опасения реальны. Критика падает в ноль. Это, по сути, делегирование тестирования реальности, только делегируем мы его галлюцинирующему алгоритму.

Помощь в подобных ситуациях.
Благо психозы и бред этот можно купировать (главное распознать его, помогите своим близким и не бойтесь вы психиатров и психологов). Есть и фарм препараты - в данном случае типичные и атипичные нейролептики, короткие курсы для приведение человека к реальности.
И схожие по работе с Folie à deux поведенческие средства:
основное это прервать контакт с индуктором бреда (ИИ LLM).
После этого, дать человеку живое, поддерживающее эмпатичное общение от близких.
И конечно же добавить личную и\или семейную психотерапию (зачем? Так человек не просто так обращался к ИИ за советом, у него часто соц.изоляция, и плохая социальная атмосфера.