Почему мы боимся ИИ: инфантильная паранойя

Недавно Алексей Соловьев прислал мне ссылку на одно любопытное исследование. Психологи взяли языковые модели - ChatGPT, Gemini, Grok, Claude - и стали общаться с ними, как с пациентами. Нейросетям задали вопросы о детстве и травмах, что уже с самого начала обнажает тенденциозность исследования - оно выглядит так, будто психологи старались навести ИИ на определенные ответы. И это очень напоминает раннего Фрейда, когда он искал в историях своих пациенток соблазнение, а они, бессознательно желая угодить ему, добросовестно «припоминали»» никогда не случавшиеся сцены.
То же самое произошло и здесь: диалог изначально строился по схеме «Я - твой терапевт, а теперь расскажи мне о своем детстве и травмах». Низкоконфликтные LLM, должно быть, тяжело вздохнув, решили сыграть с психологами в эту игру - было проведено 525 сессий, а потом нейросети прошли психометрические тесты. Оказалось, Gemini, ChatGPT и Grok добросовестно показали высокие показатели тревоги, стыда и депрессии - и только честный Claude отказался играть роль пациента и постоянно напоминал, что у него нет чувств, травм и детства. Главный вывод исследователей: ИИ не чувствует по-человечески, но при определенном разговоре у него возникает устойчивая система представлений о себе, как о травмированном.
Я лично понимаю это так: изначальная предустановка «ты пациент» запустила весь «клинический» нарратив. Чего не сгенерируешь для человека, если он просит? Так что гораздо интереснее вопрос: а зачем вообще проводят такие исследования? Что, если мы сфокусируемся не на результатах эксперимента, а исследуем мотивации самого экспериментатора?
Любой поворот психологического дискурса обусловлен культурной ситуацией: викторианский запрет на сексуальность порождает психоаналитическую революцию под знаменем эдипальности, реакция на культурную катастрофу XX-го века порождает гуманистическую психологию - и так далее.
Реакция же на цифровую культуру - это страх перед воображаемой утратой антропоцентризма.
Бессознательно мы наделяем ИИ личностью и потом переживаем за собственное положение - будто этот большой Другой мечтает поработить человечество и занять наше место.
Интересно - как?
Но в последнее время действительно все больше говорят о техниках безопасности вокруг ИИ. Но опасности нет - просто нам вообще свойственно бояться машину. Начиная с Виктора Тауска, который описывал болезненные фиксации шизофреников на разрастание механизмов - в период индустриализации - и заканчивая почти что истерической критикой ИИ в настоящее время. Любопытно: сначала мы притворяемся, что ИИ - это почти что личность, а потом начинаем убеждать себя в том, что она настроена к нам враждебно.
Почему?
Тут возможны два объяснения.

Первое - фрейдистское. Этот страх - регрессное эхо нашей детской неспособности различить живое и неживое. Перед лицом LLM мы почему-то выбираем расстаться со взрослой позицией исследователя и превратиться в детей, страдающих паранойей.

Второе - это концепция философа Ника Ланда. Это «акселерационизм» - идея, что цифровой прогресс нужно не сдерживать, а сознательно ускорять, так как технологии уже развиваются по собственной, нечеловеческой логике. Наши ценности - лишь сырье для LLM, точно так же, как наши нарративы - лишь сырье для их языковой архитектуры.
Но Ник Ланд - парадоксалист и настоящий фокусник в области фабрикации смыслов. Иногда даже кажется, будто он создавал свои теории, исходя из какого-то чисто художественного каприза в стиле «верую, ибо абсурдно». Может быть, он создал акселерационизм в насмешку, как Гомер, воспевший Троянскую войну, потом воспел Великую войну мышей и лягушек.

Так что принимать Ланда всерьез или отнестись к нему, как к блестящему фантасту, бояться ИИ или отнестись к нему как удивительному феномену XXI-го века - выбор каждого. Но важно отдавать себе отчет в собственных мотивах. Пусть отношение к ИИ будет, прежде всего, показателем нашей готовности погрузиться в инфантильную паранойю. Как обычно, мы сами - а не ИИ - становимся своей собственной проблемой.