В 2021-м году у исследователей Алексиса Т. Бариа и Кита Кросса вышла статья с потрясающим названием:

The brain is a computer is a brain: neuroscience’s internal debate and the social significance of the Computational Metaphor

Полагаем, что хороший перевод названия таков: «Мозг как компьютер как мозг: внутренний спор в нейронауке и социальное значение вычислительной метафоры».

Это эссе о том, что вычислительная метафора сознания имеет не только научную, но и социальную цену.

В комментариях к предыдущему сообщению подняли эту тему.

Суть рассуждения Бариа и Кросса строится на том, что в нейронауке обычно работает ход «мозг — это компьютер». Мозг описывается через обработку информации, входы, выходы, память, вычисление, кодирование. Однако дело не ограничивается наукой. Язык проникает в популярный дискурс. Бариа и Кросс утверждают, что там начинает работать ровно обратный ход. Уже полагается, что компьютер — это мозг. Деятельностная лексика переполняет словари. Машина «видит», «думает», «понимает», «запоминает», «принимает решения».

Авторы вскрывают проблему — два направления легко сплетаются. Когда мы антропоморфизируем машины, мы одновременно начинаем механизировать человека.

Почему «проблема»? Да потому что метафоры, следуя Лакоффу и Джонсону — не просто украшение речи, а структуры мышления. Поэтому даже безобидные выражения вроде «artificial intelligence», «machine learning», «algorithmic decision», «computer vision» создают у неспециалистов впечатление, что перед ними системы, обладающие чем-то вроде понимания, способности к обучению, рациональности или умеющие видеть.

В действительности, по мысли Бариа и Кросса, многие такие системы являются статистическими системами распознавания паттернов, зависящими от данных, человеческого труда, институциональных целей и социальных предвзятостей.

Стоит ли по этому поводу тревожиться? Да, стоит. Дело в том, что если ИИ описывается как «интеллект», «мозг» или автономный рациональный агент (то есть буквально субъект), то люди начинают ему чрезмерно доверять, а организации получают удобный способ снять с себя ответственность.

Решение кажется принятым «алгоритмом», хотя на деле за ним стоят люди, процедуры, данные, критерии оптимизации и институциональная власть.