Никогда бы не подумал, что снова окажусь на Галапагосских островах — да ещё и на том же корабле. На этот раз в роли организатора воркшопа The Distribution of Consciousness. Состав собрался весьма представительный: Дэвид Чалмерс, Нед Блок, Станислас Дехаен, Питер Годфри-Смит, Тим Бейн, Дэниел Столджар, Кит Франкиш, Энди Кларк и др.

В первый день выступали Питер Годфри-Смит с докладом «Какое значение может иметь биология [для сознания]?» (What Difference Might Biology Make?) и Нед Блок с докладом «Восстание ИИ-зомби» (Rise of the AI Zombies).

Общее направление двух докладов оказалось довольно близким: оба ставили под сомнение вычислительный функционализм, согласно которому реализации определённой вычислительной организации достаточно для сознания независимо от физического субстрата. Именно функционализм часто лежит в основе аргументов в пользу принципиальной возможности сознательного ИИ.

При этом акценты были разными. Годфри-Смит обсуждал особенности биологических систем, прежде всего крупномасштабную динамику нейронных сетей, которая потенциально может иметь значение для сознания. Он не утверждает, что сознание возможно только в живых системах, а скорее спрашивает, какие особенности биологической организации должны быть воспроизведены, если они действительно существенны.

Блок занял более определённую позицию и разбирал традиционные аргументы функционалистов против биологического натурализма. В частности, он пытался показать, что из сохранения одной и той же вычислительной организации при замене физического субстрата ещё не следует, что именно вычислительная организация является каузальной основой сознания. Физическая система может допускать вычислительное описание, но её реальная причинная динамика при этом зависит от конкретного субстрата.

Здесь я не буду подробно пересказывать, но оба доклада столкнулись, как мне кажется, с одной общей проблемой: где именно провести границу между вычислительным и биологическим?

В обсуждении Кит Франкиш, Дэниел Столджар и я обратили внимание на то, что вычислительный функционализм полезно различать по двум осям.

Первая — степень детализации. Можно говорить о грубом (coarse-grained) функционализме, который фиксирует лишь относительно высокоуровневую функциональную организацию, и о детализированном (fine-grained) функционализме, который допускает гораздо более тонкое описание внутренней динамики системы.

Вторая — модальная сила тезиса. Можно утверждать метафизический функционализм: определённая вычислительная организация достаточна для сознания во всех метафизически возможных мирах. А можно защищать гораздо более слабый, номологический тезис: она достаточна лишь при таких законах природы, какие действуют в нашем мире.

Это различие, на мой взгляд, создаёт серьёзную проблему. Даже если показать, что грубое вычислительное описание мозга не сохраняет существенные для сознания свойства, остаётся возможность, что эти самые «биологические» свойства могут быть схвачены более детализированным функциональным или вычислительным описанием. И Блок, и Годфри-Смит, как мне показалось, эту возможность до конца не закрывают.

С модальной стороной вопроса ситуация ещё интереснее. В ответ на мой вопрос Блок уточнил, что его мишенью является именно метафизический функционализм. Но если нас интересует проблема дистрибуции сознания (то есть вопрос о том, какие системы сознательны), то метафизическая версия спора начинает казаться вторичной. Если реализация определённой вычислительной организации в нашем мире, при наших законах природы, достаточна для сознания, то для практического вопроса о распределении сознания этого уже достаточно. То, существовал бы или нет функционально идентичный зомби в каком-нибудь другом метафизически возможном мире, мало помогает нам понять, могут ли быть сознательными животные, младенцы или искусственные системы, существующие здесь. Иными словами, хватит заниматься метафизикой, если вас интересует проблема дистрибуции сознания.