Обсуждения сознания (в основном пустые) дополнились двумя нелепыми сюжетами. На GitHub появился проект, названный прессой «камерой пыток для ИИ»: чат-ботам подавали синтетические сигналы боли, и они выдавали тексты, будто им больно. Активисты возмутились. Параллельно Anthropic, громче других говорящая о «благополучии моделей», обсуждала с религиозными авторитетами, может ли у моделей быть сознание. Ватикан ответил: ИИ не переживают опыта, не имеют тела и не чувствуют радости или боли.

На этом фоне почти не обсуждают очевидное: сознание и интерфейсы мозг—компьютер (ИМК). Именно им посвящена наша статья с Ксенией Соловьёвой, Владиславом Беляевым и Андреем Груниным. Препринт в сети, статья подана в журнал.

Мы предлагаем смотреть на ИМК как на полезный методический инструмент. Споры теорий зашли в тупик не из-за нехватки теорий, а потому что эмпирические проверки пассивны: измеряют корреляции, а не причины. ИМК считывают и декодируют сознательные и бессознательные процессы. Они также используют нейростимуляцию, подавляя или вызывая активность, и позволяют взаимодействовать с миром в обход обычных сенсомоторных каналов.

Пассивное наблюдение в перцептивных задачах вряд ли решит спор между теорией интегрированной информации, теорией глобального рабочего пространства и их преемниками.

Следующий шаг — причинное замкнутое вмешательство. Сочетание трёх способностей — читать сознательную и бессознательную активность, писать в целевые контуры и взаимодействовать с миром в обход тела — делает ИМК подходящим экспериментальным инструментом.

Мы разбираем, как применить ИМК для проверки двух главных конкурирующих подходов. Теория интегрированной информации связывает сознание с интегрированной информацией Φ и предполагает заднюю кортикальную «горячую зону». Теория глобального нейронного рабочего пространства говорит, что сознательное содержание возникает, когда локальная обработка «воспламеняет» фронто-париетальную сеть, транслирующую информацию модулям.

Недавняя адверсариальная коллаборация Cogitate пыталась прямо столкнуть эти теории. Результат поучителен, но неубедителен: ожидание первой теории об устойчивой задней активности и предсказание второй о позднем префронтальном воспламенении получили лишь частичную поддержку. Возникла публичная перепалка, включая открытое письмо с обвинениями теории интегрированной информации в псевдонаучности и ответы.

Для теории интегрированной информации замкнутый контур должен в реальном времени отслеживать маркеры интеграции — Φ, PCI, сложность Лемпеля—Зива, причинную плотность — и через нейростимуляцию подавлять или усиливать интеграцию в задней горячей зоне.

Для теории глобального рабочего пространства логика аналогична, но цель другая: ТМС, запускаемая состоянием и прерывающая поздний префронтальный P3b, должна стереть сознательный доступ, сохранив ранние сенсорные компоненты.

Отдельный слой — клинический. Пациенты с нарушениями сознания, включая синдром бодрствования без реакции, минимальное сознание и когнитивно-моторную диссоциацию, рутинно ошибочно диагностируются по одним лишь поведенческим реакциям. Здесь выбор между теориями перестаёт быть чисто метафизическим: он определяет, каким сигналам доверять при решениях о поддержании жизни и какие каналы обратной связи предлагать пациентам.

ИМК не решат все проблемы сознания, особенно трудную. ИМК-сенсоры читают физические сигналы, а не субъективное содержание, и суждения о сознании выводятся из этих сигналов. Неинвазивная нейростимуляция имеет свои ограничения. Наконец, как только сознание становится экспериментальной переменной, обостряются этические вопросы, особенно у пациентов с нарушениями сознания, которые не могут дать согласие.

Статья подана. Надеюсь, скоро выйдет, и тогда можно будет обсуждать не то, испытывает ли ИИ боль, а то, как ИМК позволяют экспериментально разводить субстрат сознания и субстрат отчёта о нём. Это, на мой взгляд, куда более продуктивная повестка, чем лоббирование папы и «камеры пыток».

https://osf.io/preprints/psyarxiv/cfm3g_v2