Идеи Алана Тьюринга о мыслящих машинах, аргумент Джона Серла против них и предвосхищение этого спора советским фантастом Анатолием Днепровым

Тьюринг в статье 1950 года «Вычислительные машины и разум» предложил заменить расплывчатый философский вопрос «может ли машина мыслить?» на вполне практический тест. Он разработал «игру в имитацию», где человек-судья ведет письменный диалог с двумя собеседниками, один из которых является человеком, а другой — машиной. Если судья не может определить, кто есть кто, или ошибается, Тьюринг предлагал считать, что машина продемонстрировала интеллект, неотличимый от человеческого.

Спустя три десятилетия Джон Серл нанес, как многим казалось, сокрушительный удар по этому подходу с помощью своего мысленного эксперимента «Китайская комната». Серл просит представить человека, не знающего китайского языка, запертым в комнате с огромным набором правил на его родном языке. Этот человек получает из-под двери иероглифы, затем, следуя формальным инструкциям, находит и выдает ответные иероглифы. Правила составлены настолько хорошо, что для наблюдателя снаружи создается полная иллюзия, что в комнате говорит носитель китайского языка.

Серл заключает: хотя система в целом и проходит тест Тьюринга, ни человек внутри, ни «комната» как целое не понимают ни единого слова. Отсюда следует главный вывод: синтаксис (правила оперирования символами) не порождает семантику (смысл).

И здесь в историю вмешивается фантастика. За два десятилетия до знаменитого аргумента Серла, в 1961 году, советский писатель Анатолий Днепров в рассказе «Игра» описал эксперимент, удивительно точно предвосхитивший Серла. В сюжете профессор Зарубин собирает на стадионе полторы тысячи молодых математиков. Он раздает им правила, превращающие их в живую модель вычислительной машины «Урал». Каждый участник играет роль электронной детали — ячейки памяти, сумматора или реле. Они перекликаются друг с другом, используя лишь слова «ноль» и «один», и никто из них не знает общей цели. Через несколько часов усталая машина выдает результат. Оказывается, все это время люди, сами того не осознавая, переводили с португальского языка сложную фразу: «Самые большие результаты достигаются небольшими, но непрерывными усилиями». Перевод оказывается почти идеальным, лишь одно слово искажено из-за того, что одна девушка, не выдержав, вышла из игры.

Финальный диалог в рассказе представляет собой версию аргумента Серла. Когда энтузиаст кибернетики возражает, что мышление — это свойство целого, а не отдельных нейронов, профессор Зарубин парирует: значит, вы должны допустить существование некоего «сверхсознания машины», недоступного ее отдельным частям? В ответ на это возражение сторонник ИИ замолкает. Итоговая фраза профессора звучит как точный прогноз всех последующих дебатов: даже самая тонкая имитация мышления не есть само мышление.

#серл #тьюринг #днепров