Психология искусственного разума

Недавно мне попалась довольно любопытная статья, связанная с изучением больших языковых моделей (LLM). Из нее я выяснила, что есть целая научная область – «психология ИИ», и как утверждают авторы, она повторяет исторический путь психологии человека. В частности, сейчас психология ИИ оказалась в плену бихевиористской парадигмы, которая фокусируется на наблюдаемых корреляциях «вход-выход» и игнорирует внутренние когнитивные механизмы. Иными словами, исследователи изучают LLM через стимулы (промпты) и реакции (ответы), что повторяет классическую схему «стимул → реакция». В этой схеме не отражаются причинные механизмы: как и почему модель пришла именно к этой реакции.
Кроме того, как указывают авторы, невозможно отличить подлинное внутреннее понимание от сложной поведенческой имитации, особенно в задачах, требующих неявных знаний.

В статье можно детально познакомиться с проблемами «психологии ИИ», как их понимают авторы, основными выводами и рекомендациями. Здесь же я хочу описать максимально простым языком суть проблем, с которыми имеет дело «психология ИИ», и отреагировать и на эти проблемы и на сам факт существования этой психологии.
Далее здесь