TGViewer
Data Secrets Data Secrets @data_secrets · 94.9K subscribers
Post #8379 18K
Data Secrets Intellect-2 или как обучить ризонинг модель на 32В без кластера GPU Помните, примерно пол года назад мы рассказывали вам, как в стартапе Prime Intellect впервые децентрализованно обучили крупную LM? Так вот теперь исследователи пошли дальше и обучили уже…
Помните стартап Prime Intellect? Ребята занимаются децентрализованным обучением и на днях впервые выпустили конкурентоспособную модель Intellect-3

Прошлая версия модели вышла в мае и была занятной (в частности потому что обучалась децентрализованно), но не на уровне frontier.

Теперь же по бенчмаркам Intellect-3 опережает GLM-4.5 и DeepSeek-R1-0528, а по математике вообще достигает SOTA в своем размере (она 106B MoE).

Что интересно: для RL-обучения использовался асинхронный RL-фреймворк prime-rl. С инженерной точки зрения это очень сложный процесс и PRIME единственные, кто сейчас таким занимаются. Но успех модели в целом доказал, что подход работает. В стартапе уверены, что именно такие инструменты – это путь к сильным децентрализованным моделям.

Prime-rl уже выложили в опенсорс, так что кому интересно, покапаться в нем можно здесь.

Репорт | HF | Блог
  • 🔥 82
  • 👍 26
  • ❤ 20
  • 😁 2
  • ☃ 1
More from @data_secrets
  1. Oct 14, 2026ИИ-агент отвечает настолько точно, насколько готовы ваши данные. Как понять, что они готов…
  2. Oct 14, 2026Вот так вот по сообщениям журналистов выглядела та самая «хитрая» прослушка, как ее назвал…
  3. Oct 14, 2026OpenAI нашли в своем офисе прослушку Как оказалось, ее установил сотрудник (OpenAI пишут,…
  4. Oct 13, 2026Gemini 4 Argon наконец-то начали раскрывать на пользователей Модель уже появляется в API,…
  5. Oct 13, 2026Мем дня: Цукерберг старательно пытается сделать вид, что ему нравится Guinness Это видео с…
  6. Oct 13, 2026Welcome to the new era 😨
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →