🧠 Global Workspace — LLM перестает быть черным ящиком

Anthropic выпустили очень интересную работу про внутреннюю организацию языковых моделей.

Главный вывод, на мой взгляд, не в том, что они нашли очередной красивый механизм внутри трансформера.

И уж точно не в разговорах про «зачатки сознания», которые сейчас неизбежно начнутся.

Интереснее другое.

Последние несколько лет мы в основном изучали модели снаружи: качество ответов, reasoning, агенты, использование инструментов, память.

Теперь фокус постепенно смещается внутрь.

Anthropic показывают, что внутри модели существует пространство представлений, через которое проходит информация из разных частей вычисления. Они проводят аналогию с теорией Global Workspace из когнитивной науки и, что важнее, демонстрируют, что это пространство можно наблюдать и экспериментально модифицировать.

Если эта линия исследований окажется плодотворной, то мы впервые получим возможность работать не только с поведением модели, но и с ее внутренней когнитивной организацией.

Для меня это хороший пример более общего процесса.

Мы постепенно перестаем воспринимать LLM как неделимый черный ящик.

Начинают выделяться отдельные вычислительные механизмы, которые можно исследовать независимо, измерять, сравнивать, а со временем, вероятно, и комбинировать.

Это важный переход.

Когда-то программирование перестало быть работой с машинным кодом и появились операционные системы.

Потом поверх них возникли контейнеры, оркестраторы и облачные платформы.

Каждый раз рост сложности приводил к появлению нового инфраструктурного слоя.

Думаю, с агентными системами произойдет то же самое.

Сегодня почти все обсуждают сами модели.

Через несколько лет гораздо интереснее станет вопрос, как устроена инфраструктура вокруг них.

Как наблюдать внутренние вычисления.

Как проверять результаты.

Как хранить происхождение решений.

Как управлять памятью.

Как связывать между собой множество специализированных агентов.

Именно этот слой, как мне кажется, станет следующим полем конкуренции.

Не размер модели.

Не количество параметров.

А архитектура управления коллективной агентностью.

#этикаагентов #архитектураразума #алгоритмическое

https://www.anthropic.com/research/global-workspace