✨ Глобальное рабочее пространство в языковых моделях

Согласно теории глобального рабочего пространства, мозг это совокупность специализированных систем, работающих параллельно, бессознательно и изолированно друг от друга. Информация становится осознанной, когда попадает в рабочее пространство и транслируется другим системам мозга.

Именно эту идею исследователи искали, есть ли у модели нечто похожее на такое пространство. Они нашли J-space, коллекцию нейронных паттернов с особой ролью. Благодаря им нейросеть может вытащить концепцию из весов, покрутить в голове в тишине и использовать для сложного многошагового вывода, например, понять, что ее тестируют, еще до генерации первого слова.

J-space не была спроектирована людьми, она возникла сама в процессе обучения, что намекает, подобная организация может быть общим решением для разумных систем, а не особенностью только человеческого мозга.

👉 https://www.anthropic.com/research/global-workspace