🔬 Что происходит внутри ИИ до того, как мы видим его ответ?

Мы видим результат работы языковой модели — текст на экране.

Но между запросом и ответом происходит огромное количество вычислений, и понять, какую информацию модель использует в процессе, гораздо сложнее.

Новая работа исследователей Anthropic предлагает ещё один способ заглянуть внутрь этого процесса.

Авторы обнаружили в языковых моделях структуру, которую сравнивают с глобальным рабочим пространством, и разработали метод для её изучения.

Что именно удалось увидеть и можно ли после этого говорить, что ИИ «думает», — Листайте 👆