Кто галлюцинирует на самом деле: мы или ИИ?

Выражение о том, что ИИ часто «галлюцинирует» – уже давно прижившийся термин. Но мне как психиатру это словоупотребление немного режет глаз - нет, не из снобизма, а просто потому что оно неточное. Однако, интересно неточное!

🔹Галлюцинация в клиническом смысле - это восприятие без внешнего стимула. Человек слышит голос, которого нет. При этом критика к переживанию отсутствует - он не сомневается в реальности происходящего. Ключевое здесь - сенсорный модус и полное отсутствие дистанции между субъектом и переживанием.

• У языковой модели нет восприятия. Она генерирует ответы на основе вероятностного распределения, и иногда это приводит к выводу, который статистически правдоподобен, но фактически ложен.

🔹Как психиатр, я бы скорее отнес это к конфабуляции - термину, который описывает заполнение пробелов правдоподобным, но выдуманным содержанием без намерения солгать.
Классически - при корсаковском синдроме: пациент не помнит вчерашнего дня и искренне рассказывает убедительную историю, которой не было. Нет осознанного обмана, но зато есть структурный дефицит с компенсацией.
❗️Но вот что интересно - мозг, вообще-то, часто проделывает нечто похожее, и не только при корсакове.
Память реконструктивна: каждый раз, когда мы что-то вспоминаем, мы отчасти это «досочиняем». Это не значит, что все, что человек помнит - выдумка. Это значит, что наша память - не запись, а интерпретация.

Каждое воспоминание при извлечении немного переписывается - под текущее настроение, под актуальные убеждения, под то, что человек уже решил про себя. Собственно автобиографический нарратив - особенно про то, когда «все началось», каким был период «до», что именно тогда происходило - всегда содержит этот слой реконструкции. Причем чем сильнее аффективный фон, тем менее нейтральна эта реконструкция.

Знаете как я это замечаю в работе? Человек в депрессии вспоминает прошлое иначе, чем тот же человек в ремиссии - буквально другие события выходят на первый план, другая связность, другие причинно-следственные цепочки.

Занятно, что и мы, и ИИ иногда можем интерпретировать реальность и выдавать информацию иногда не совсем «точно», но зато уверенно. Бывало ли у вас такое, что на первый прием вы пришли с одной версией своей истории, а потом в ремиссии ваша биография переформировалась в голове иначе?