В конце нашего последнего семинара был упомянут выпуск подкаста «Неискусственный интеллект», в котором Павел Николаевич беседовал с Антоном Кузнецовым о компьютерной метафоре сознания на вершине горы.

Ссылка на выпуск.

Вообще, освещённый вопрос представляется исключительно важным с метафилософской точки зрения.

Почему мы вообще склонны описывать сознание через язык программ и кода? Мозг можно понимать как «железо» или, в лучшем случае, wetware, а сознание — как программу исполняемую на это железе. Павел Николаевич относится к этой метафоре осторожно. Она красива и в достаточной степени продуктивна продуктивна, это да. Но ведёт ли она к теории сознания? Это не очевидно. Сила метафоры в том, что она дала философии и когнитивной науке язык описания психики.

Однако очевидная слабость состоит в том, что она может буквально проваливаться мимо реального положения дел. Она выделяет некоторые свойства реальности, но не доказывает, что сама реальность устроена именно как вычислительная машина.

В разговоре с Антоном Павел Николаевич углубляет историческую линию. Компьютерная метафора не возникла вместе с современными нейросетями. Её можно проследить от Раймонда Луллия и его комбинаторного Ars Magna, через счётные машины Паскаля и Лейбница, механистическую философию Нового времени, телеграф, шифровальные машины, кибернетику, фон Неймана, Тьюринга, ранний искусственный интеллект и функционализм XX века.

Но это-то, как раз, и показывает, что каждый новый исторический этап технологии даёт человеку новый способ описывать самого себя. Отсюда центральная мысль. Компьютерная метафора сознания является следствием инженерного взгляда на человека. Она делает человека понятным в контексте текущего состояния мысли, а не вообще. А текущее состояние мысли — это представление о действующей системе как о системе функций, входов, выходов, процедур обработки и управляющих механизмов. Это и создаёт соблазн преждевременно объявить человеческую внутреннюю жизнь полностью объяснённой.

Проблема в том, что граница между имитацией и подлинным мышлением остаётся неясной.

Один из самых интересных тезисов Павла Николаевича состоит в том, что природа сама по себе, возможно, ничего не вычисляет. Вычисление — это способ описания, который именно мы как бы наслаиваем на процессы. Мы можем описывать погоду, падение тела, мозг или речь как вычислительные процессы, но из этого не следует, что сама природа хотя бы в каком-то смысле «считает».

Но можно ли совершить драматический поворот мысли? Можно ли полностью представить человека как совокупность состояний машины и правил перехода между ними? Сомнительно. И дело вовсе не в текущей нехватке вычислительных ресурсов или энергии. Может быть всё дело в том, что человек — это человек, а не машина.