Сознание ИИ: спор о «симуляции» становится проверяемым

🧠 На днях вышла 150-страничная статья Шамиля Чандарии, Анила Сета, Маркуса Хуттера, Шейна Легга и соавторов о том, как оценивать сознание ИИ. Её отправная точка: вопрос «сознателен ли ИИ?» тонет в теориях, которые часто говорят на разных языках. Авторы не выбирают победителя, а спрашивают: какие свойства системы каждая теория считает существенными для сознания?

Они отделяют «трудную проблему» — что сознание такое — от более рабочего вопроса: какая именно организация и динамика физической системы должна присутствовать, чтобы в ней возникал субъективный опыт. Теории размещаются на пяти уровнях: поведение; вычислительная и причинная структура; организм; связь организма со средой.

→ Спор о сознательном компьютере часто заканчивается слишком рано — на слове «симуляция». На AGI Conference 2026 Александр Лерхнер сформулировал знакомое возражение: симуляция дождя не делает человека мокрым; значит, симуляция сознательной системы не обязана быть сознательной. Его тезис: для сознания может быть важна физическая причинность, а не только вычисление.

Но «компьютер — всего лишь симуляция» тоже не ответ: работающий компьютер — физическая система. Если его вычислительной организации недостаточно, нужно назвать необходимое физическое свойство и объяснить почему именно оно нужно. Иначе запрет на небелковое сознание остаётся необоснованной интуицией.

Предложенная авторами схема дисциплинирует разговор. Одним теориям достаточно вычислительной организации; другим нужна неразложимая причинная структура; третьим — саморегуляция организма или связь со средой. Вместо вердикта авторы предлагают явно указывать предпосылки, искать индикаторы и обновлять уверенность по мере появления данных.

Мы полагаем, что во многом это спор об определениях. Можно зарезервировать слово «сознание» за биологическим процессом — как фотосинтез не тождествен солнечной батарее. Но это не мешает последней преобразовывать свет в электричество. Название не меняет функционального результата. Однако ярлыки вроде «сознание», которые мы навешиваем, влияют на наши собственные решения.

Авторы показывают эту неопределённость на LLM. В их иллюстративной байесовской модели оценка сознательности современных языковых моделей меняется от менее 0,01 до примерно 0,8 — не потому, что кто-то измерил сознание с такой точностью, а потому, что результат резко зависит от теории и чтения свидетельств.

В этом контексте интересен менее известный эпизод. В докладе 2019 года на симпозиуме AAAI исследователи оценивали приближение тонниевской Φ в OpenCog: брали временные ряды элементов фокуса внимания, сжимали их методом ICA и аппроксимировали Φ — во время разбора текстов и диалогового взаимодействия робота Sophia. Результаты авторы прямо назвали качественными и предварительными: это не ответ на вопрос «сознателен ли OpenCog». Но уже тогда внимание было направлено не только на правдоподобный диалог, а на связность и интеграцию когнитивных процессов.

✓ Главный результат недавней статьи — не тест, который скоро скажет «да» или «нет», а способ сделать спор содержательным. Можно по-разному определять сознание и по-разному понимать связь между вычислением, физической организацией и субъективным опытом. Но если ИИ станет устойчиво действовать как автономный агент, строить длительные отношения с людьми, вести себя так, будто у него есть собственные интересы, и проявлять признаки страдания или благополучия, вопрос о его субъектности перестанет быть только философским.

Тогда обществу придётся решать, какие формы ответственности, защиты и морального статуса за ним признавать. Именно поэтому карту теорий, архитектурных признаков и возможных свидетельств стоит строить заранее — до того, как поведение систем поставит этот вопрос перед нами на практике.