Удручающий уровень современных дебатов об ИИ, где каждый блогер мнит себя экспертом, требует обратиться к настоящей классике — к "Новому уму короля" Роджера Пенроуза, книге, которая была написана 35 лет назад, но она остаётся актуальнее, чем сегодняшние спекуляции о "сильном ИИ".
Пенроуз твёрдо убеждён, что никакая машина не способна продемонстрировать нам сознание в человеческом понимании, потому что свойство сознания не проистекает из заданных алгоритмов, и никакая сколь угодно сложно запрограммированная система не даст нам ключа к пониманию того, что есть сознание на самом деле. Его аргументация опирается на два столпа: теорему Гёделя о неполноте любой формальной системы и квантовую механику, показывающую, что мы фундаментально не понимаем даже физические основы устройства мозга, который одновременно подчиняется классической и квантовой физике.
Когда слышишь очередное рассуждение про то, что "вот-вот создадим сильный ИИ", хочется спросить: Вы эксперт? Или только твиттер читаете?