Автор канала: Иван Девятко.
Лаборатория исследований сознания (ЛИС) при Институте философии человека РГПУ им. А. И. Герцена (Санкт-Петербург) работает в формате сетевой дискуссионной площадки.
VK: https://vk.com/soznanielab
Post #116
178
В 2021-м году у исследователей Алексиса Т. Бариа и Кита Кросса вышла статья с потрясающим названием:
The brain is a computer is a brain: neuroscience’s internal debate and the social significance of the Computational Metaphor
Полагаем, что хороший перевод названия таков: «Мозг как компьютер как мозг: внутренний спор в нейронауке и социальное значение вычислительной метафоры».
Это эссе о том, что вычислительная метафора сознания имеет не только научную, но и социальную цену.
В комментариях к предыдущему сообщению подняли эту тему.
Суть рассуждения Бариа и Кросса строится на том, что в нейронауке обычно работает ход «мозг — это компьютер». Мозг описывается через обработку информации, входы, выходы, память, вычисление, кодирование. Однако дело не ограничивается наукой. Язык проникает в популярный дискурс. Бариа и Кросс утверждают, что там начинает работать ровно обратный ход. Уже полагается, что компьютер — это мозг. Деятельностная лексика переполняет словари. Машина «видит», «думает», «понимает», «запоминает», «принимает решения».
Авторы вскрывают проблему — два направления легко сплетаются. Когда мы антропоморфизируем машины, мы одновременно начинаем механизировать человека.
Почему «проблема»? Да потому что метафоры, следуя Лакоффу и Джонсону — не просто украшение речи, а структуры мышления. Поэтому даже безобидные выражения вроде «artificial intelligence», «machine learning», «algorithmic decision», «computer vision» создают у неспециалистов впечатление, что перед ними системы, обладающие чем-то вроде понимания, способности к обучению, рациональности или умеющие видеть.
В действительности, по мысли Бариа и Кросса, многие такие системы являются статистическими системами распознавания паттернов, зависящими от данных, человеческого труда, институциональных целей и социальных предвзятостей.
Стоит ли по этому поводу тревожиться? Да, стоит. Дело в том, что если ИИ описывается как «интеллект», «мозг» или автономный рациональный агент (то есть буквально субъект), то люди начинают ему чрезмерно доверять, а организации получают удобный способ снять с себя ответственность.
Решение кажется принятым «алгоритмом», хотя на деле за ним стоят люди, процедуры, данные, критерии оптимизации и институциональная власть.
The brain is a computer is a brain: neuroscience’s internal debate and the social significance of the Computational Metaphor
Полагаем, что хороший перевод названия таков: «Мозг как компьютер как мозг: внутренний спор в нейронауке и социальное значение вычислительной метафоры».
Это эссе о том, что вычислительная метафора сознания имеет не только научную, но и социальную цену.
В комментариях к предыдущему сообщению подняли эту тему.
Суть рассуждения Бариа и Кросса строится на том, что в нейронауке обычно работает ход «мозг — это компьютер». Мозг описывается через обработку информации, входы, выходы, память, вычисление, кодирование. Однако дело не ограничивается наукой. Язык проникает в популярный дискурс. Бариа и Кросс утверждают, что там начинает работать ровно обратный ход. Уже полагается, что компьютер — это мозг. Деятельностная лексика переполняет словари. Машина «видит», «думает», «понимает», «запоминает», «принимает решения».
Авторы вскрывают проблему — два направления легко сплетаются. Когда мы антропоморфизируем машины, мы одновременно начинаем механизировать человека.
Почему «проблема»? Да потому что метафоры, следуя Лакоффу и Джонсону — не просто украшение речи, а структуры мышления. Поэтому даже безобидные выражения вроде «artificial intelligence», «machine learning», «algorithmic decision», «computer vision» создают у неспециалистов впечатление, что перед ними системы, обладающие чем-то вроде понимания, способности к обучению, рациональности или умеющие видеть.
В действительности, по мысли Бариа и Кросса, многие такие системы являются статистическими системами распознавания паттернов, зависящими от данных, человеческого труда, институциональных целей и социальных предвзятостей.
Стоит ли по этому поводу тревожиться? Да, стоит. Дело в том, что если ИИ описывается как «интеллект», «мозг» или автономный рациональный агент (то есть буквально субъект), то люди начинают ему чрезмерно доверять, а организации получают удобный способ снять с себя ответственность.
Решение кажется принятым «алгоритмом», хотя на деле за ним стоят люди, процедуры, данные, критерии оптимизации и институциональная власть.
- 👍 3
