Ну и так:

Ответ Леонтьева Алипову: почему сознание нельзя найти в нейронной сети

С точки зрения психологической теории деятельности, критический анализ Алиповым нейробиологического эмерджентизма попал точно в цель. Попытка Анохина, Пу или Тонони вывести сознание из нейронных сетей через сильную эмерджентность — это классический нейроцентризм. Но мозг не генерирует сознание так, как печень выделяет желчь. Искать субъективный опыт внутри черепной коробки — все равно что искать стоимость денежной купюры, изучая химический состав бумаги и краски.

Сознание — это системное свойство не самого мозга, а деятельности субъекта в объективном мире. Мозг выступает лишь сложнейшим органом-инструментом. Психика рождается на границе взаимодействия организма со средой, когда живому существу требуется отражать внешний мир для ориентации и выживания. У человека же сознание формируется через коллективный труд, язык и использование орудий. Узоры нейронных связей лишь обслуживают эту внешнюю активность изнутри.

Аргументы Алипова полностью оправданы. Сильная эмерджентность в нейробиологии действительно выглядит как магия, потому что исследователи пытаются вывести идеальное из изолированного материального субстрата. Проблема каузальной замкнутости снимается тем, что физиологический уровень не управляет человеком сам по себе. Психический образ ситуации задает целевую и смысловую регуляцию, указывая физиологическим ансамблям, какой именно из доступных импульсов должен сработать. Называть этот процесс просто эмерджентностью — значит заменять неизвестное удобным ярлыком, не объясняя происхождения психики.

Именно поэтому у современного ИИ не может возникнуть сознания, сколько бы миллиардов параметров или связей в него ни добавили. У машины нет собственных биологических или социальных потребностей, она не ведет жизнедеятельность и не сталкивается с сопротивлением материального мира. Вычисления ИИ — это не деятельность, а количественное усложнение алгоритма никогда автоматически не перейдет в новое качество субъектности. Пока нейробиология и IT-сфера ищут сознание внутри замкнутых систем, они неизбежно будут упираться в тупики редукционизма.