В статье можно найти ещё один аргумент. Аргумент против отождествления предсказания и понимания. Реконструируется он примерно так:

(1) Современные ИИ-системы могут хорошо предсказывать следующие состояния, слова, действия или паттерны.
(2) Успешное предсказание не означает, что система обладает пониманием предметной области.
(3) Можно натренировать модель предсказывать траекторию полёта бейсбольного матча, но из этого не следует, что внутри модели содержится ясная теория бейсбола, закон гравитации или человеческое понимание игры.
Следовательно,
(4) рост точности и масштаба ИИ не должен автоматически интерпретироваться как рост понимания или интеллекта.

Вывод означает, что инструмент становится лучше, точнее, более развитым. Но нас это и не должно удивлять. Во все времена человечество совершенствовало инструменты.

В конечном итоге обсуждаемая статья даёт внятный список обязательств, которые навязывает вычислительная метафора. Причём не только своим сторонникам, но и как бы всему миру.

Если принять метафору буквально, мы обязуемся видеть мозг прежде всего как систему обработки информации. Разумеется, это не обязательно ложное описание. Проблема в том, что оно делает вычисление привилегированной онтологической категорией для понимания психики.

Тогда не только решение задачи, но и вера, память или переживание чувств начинают пониматься по аналогии с операциями вычислительной системы. Это ведёт к риску ограничения, например, понятия человеческой веры теми свойствами, которые есть у машинного аналога. Вера компьютерной системы это набор утверждений плюс склонность к определённым реакциям на запросы. Такова ли вера человека?

Обратная же метафора «компьютер — это мозг» заставляет приписывать машине уже человеческие психологические способности. В слабом смысле это удобная речь. В сильном смысле она создаёт ложную онтологию машины как субъекта или агента. Но перед нами всё ещё машина.

Всё это мотивирует определённую идеологию (или мотивированно ей? из стать это, как раз, трудно понять однозначно), согласно которой интеллект отождествляется с расчётом, рациональностью и эмоциональной нейтральностью. Такая онтология интеллекта легко делает машину «более чистым» интеллектом, чем человек, потому что машина кажется свободной от тела, эмоций, контекста и социального положения.

Авторы считают это особенно вредным. Реальные ИИ-системы работают не как люди и устроены иначе. Например, для их работы нужны… Люди. Если мы говорим «ИИ решил», мы онтологически стираем эту зависимость.

Если собрать всё это вместе, то получается что «безобидная» вычислительная метафора создаёт мир, в котором человек выглядит проще, а машина — умнее. Это не опровержение компьютационализма, но требование понимать следующие из него обязательства.