Китайская комната и тест Тьюринга

Тест Тьюринга, конечно, заслуживает отдельного разговора. Если кратко, эксперт, переписываясь с двумя собеседниками, пытается определить, кто из них является живым человеком, а кто нейросетью. Регулярная ошибка эксперта в этой задаче традиционно рассматривалась как свидетельство возникновения сильного ИИ, то есть нейронной сети, обладающей разумом.

Идея теста Тьюринга неявно опирается на представление, что за используемыми нами словами всегда стоит какое-то внутреннее понимание. Однако ход мыслей Сёрла предполагает, что на основе формального оперирования словами можно создать такую систему, речевое поведение которой не будет отличаться от осмысленного.

Этот не очевидный вывод из Китайской комнаты сейчас фактически подтвердился с развитием современных чат-ботов. Генерируемый ими текст выглядит весьма осмысленно. Его машинное происхождение мы можем предположить скорее по косвенным признакам. Забавно, что если в XX веке таким признаком могли быть ошибки в построении фраз, то сейчас это скорее отсутствие ошибок.

Если мы отрицаем наличие разума у современных нейронных сетей, это означает только одно. Тест Тьюринга не годится для обнаружения сильного ИИ, нам нужно придумать новые способы.

#КитайскаяКомната #ТестТьюринга