Сергей Шишкин в своём посте смешивает два разных значения слова «агентность». В нейронауке sense of agency — это именно сознательное ощущение того, что ты являешься автором собственных действий и их последствий.

Когда Шишкин говорит об «агентности ИИ» как о способности ставить цели и добиваться их, он имеет в виду функциональную автономию — совсем другое понятие. Из-за этого смешения его тезис «опасно не сознание, а агентность» звучит так, будто он противопоставляет сознание и агентность, хотя в нейронаучном смысле агентность и есть одно из проявлений сознательного опыта.

Кстати, при паркинсонизме нарушение интеграции моторного предсказания и обратной связи приводит к изменению чувства авторства действия. Дофаминергическая же терапия может, наоборот, усиливать sense of agency до аномального уровня — дофамин повышает это чувство у пациентов с болезнью Паркинсона.

При шизофрении ситуация ещё более неоднозначна. Одни исследования говорят о недооценке собственной агентности, другие — о переоценке. Причём эта переоценка может быть связана с конкретными экспериментальными условиями и доступными сигналами агентности.

Есть данные, что пациенты с шизофренией склонны к чрезмерному приписыванию себе событий, которые они не контролируют. Это явление называют гиперагентностью, и оно действительно наблюдается, но не как универсальная характеристика, а как один из возможных режимов в зависимости от задачи и контекста.

Возвращаясь к основной теме поста: Шишкин прав в том, что для безопасности человечества важна именно автономная целеустремлённость системы, а не наличие у неё субъективного опыта. Его аналогия с термостатом удачна — система может эффективно функционировать и преследовать цель без сознания. Проблема в том, что он называет это «агентностью», тогда как в нейронауке этот термин закреплён за сознательным переживанием контроля.

https://t.me/bci_ru/6476