У ИИ обнаружили «театр сознания». Плохая новость: у вас он тоже есть, и вы в нём не режиссёр 🙂

Учёные Anthropic опубликовали исследование, от которого у меня, как у психоаналитического терапевта, мурашки.

Они разработали новый математический «объектив» — J-lens — и заглянули внутрь нейросети Claude. И нашли там то, чего никто не проектировал: маленькое привилегированное пространство, которое назвали J-space. Оно возникло само, спонтанно, в процессе обучения модели.

Что это за пространство? Место, куда модель «выносит» концепты, с которыми работает осознанно: она может о них рассказать, может ими управлять по запросу, может использовать их для гибкого рассуждения. А вокруг — огромный океан вычислений, которые происходят молча, автоматически, без доступа к этой сцене.

Исследователи проверили это красиво. Просят Claude молча загадать вид спорта — и ещё до ответа читают в J-space слово «футбол». Подменяют внутри этого пространства концепт «футбол» на «регби» — и модель отвечает «регби». Подменяют «Францию» на «Китай» — и все связанные ответы (столица, язык, континент) перестраиваются под Китай. А вот беглая автоматическая речь шла мимо workspace: попросили продолжить текст на испанском — модель писала по-испански, даже когда внутри ей «подменили» язык на французский. Автоматизмы работают в обход сцены. Осознанные, гибкие задачи — только через неё.

Ничего не напоминает?

Это почти дословно Global Workspace Theory — одна из главных современных теорий сознания (нам про нее рассказывали в магистратуре по психологии в Вышке). Психика как театр: под сценой гудит гигантская машинерия бессознательного — зрительные системы, моторика, паттерны, травмы. А сознание — узкий луч прожектора. На сцену каждый раз выходит один персонаж, одна маска, поднятая из темноты. Остальные ждут за кулисами. И дёргают за верёвки.

Метафора эта старше нейронаук на две с половиной тысячи лет. Платон в «Государстве» описал человека сидящим в пещере: мы видим не реальность, а тени на стене — проекции того, что происходит за нашей спиной. Пещера Платона — это и есть первый в истории интерфейс сознания: узкий экран, на который бессознательное выводит свою картинку, а мы принимаем её за всю реальность. У Платона же человек — колесница, которой правят два коня, тёмный и светлый. Театр внутренних персонажей — идея не новая. Новое в том, что теперь её видно в математике.

И вот здесь начинается самое интересное для меня.

Психоанализ в этой оптике — не разговоры о маме. Это технология вывода персонажей из-за кулис на сцену. То, что названо словом и вынесено в рабочее пространство, становится управляемым. То, что осталось в темноте, управляет вами. Ваш повторяющийся сценарий отношений, ваша «внезапная» ярость, ваш выбор недоступных партнёров — всё это работает в обход сцены. Молча. Пока вы уверены, что «сами так решили».

Фрейд сформулировал это за сто лет до всяких нейросетей: Wo Es war, soll Ich werden — «Там, где было Оно, должно стать Я». Лакан всю жизнь разворачивал эту фразу: бессознательное структурировано как язык — а значит, к нему есть вербальный доступ.

Получается красивая рифма. Интерпретируемость ИИ — это когда инженеры учатся читать скрытое пространство модели и вмешиваться в него: подсветить концепт, подменить, вывести на сцену. Психоанализ — та же инженерия, только вербальная, и не искусственного интеллекта, а естественного. Форма оптимизации модели, где градиентный спуск заменён речью, а loss function — вашим страданием.

Терапия — это когда вы перестаёте быть текстом, который пишет бессознательное, и становитесь тем, кто держит прожектор ⚡️🦉

Подпишись и живи глубже