TGViewer
Анализ данных (Data analysis) Анализ данных (Data analysis) @data_analysis_ml · 50.6K subscribers
Post #5717 7.39K
✔️ В GPT-6 Astra может использоваться recurrent depth 👀

Появились сообщения, что в GPT-6 Astra используется техника recurrent depth - одни и те же Transformer-блоки с общими весами прогоняются несколько раз подряд.

Вместо того чтобы каждый раз добавлять новые слои и параметры, модель может повторно использовать уже существующие блоки и выполнять больше внутреннего вычисления над одним состоянием.

По сути:

hidden state → Transformer block → тот же block → тот же block → результат

Такой подход близок к семейству Recurrent Reasoning Models (RRM), которое исследователи активно изучают как способ увеличить глубину рассуждения без пропорционального роста числа параметров.

Интересно, что похожую идею разбирали ещё весной этого года в работе про recurrent reasoning models:

https://arxiv.org/abs/2603.02193

PS: OpenAI публично архитектуру Astra пока не раскрывала, поэтому recurrent depth остаётся сообщаемой, но не подтверждённой компанией особенностью модели.
  • 👍 16
  • 🔥 5
  • ❤ 4
More from @data_analysis_ml
  1. Sep 22, 2026Один вечер — много возможностей! ⚡️ 25 сентября у тебя будет шанс познакомиться сразу с че…
  2. Sep 22, 2026Xiaomi представила MiMo-V2.6 с открытыми весами 👀 В семейство вошли две MoE-модели: - Fla…
  3. Sep 21, 2026⚡️OpenAI заявила о решении более 100 открытых задач по математике 🤯 28 августа OpenAI нач…
  4. Sep 21, 2026В любом случае, Claude забанил мне два аккаунта, я ставлю на победу Альтмана!
  5. Sep 21, 2026🔥 Один из лучших обучающих курсов на StepiK по SQL SQL можно знать годами и всё равно тер…
  6. Sep 21, 2026«Я хочу отправить их в тюрьму»: по данным Politico, Трамп произнёс это во время конфликта…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →