TGViewer
Нейроканал Нейроканал @neuro_channel · 11.7K subscribers
Post #2769 1.63K
Qwen3.8-Flash-Next вышла, и утечка, о которой писал днём, подтвердилась: 125 млрд параметров, 6 млрд активных, плюс 51 млрд N-gram-эмбеддингов, которые лежат в памяти хоста и подтягиваются на GPU заранее. Это превью архитектуры Qwen4.

Главное из техотчёта: обучение обошлось примерно в 1/9 от Qwen3.7-Plus при трети токенов, а на 14 претрейн-бенчмарках база обходит её на восьми и отстаёт не больше чем на 2,6 балла на остальных. Внутри три слоя Gated DeltaNet на один слой Qwen Sparse Attention, который отбирает контекст блоками. На миллионе токенов это в 7,6 раза быстрее плотного внимания на префилле, а с 90% попаданий в кэш префилл в 8,6 раза быстрее 3.7-Plus. Остаточный поток расширен до четырёх ветвей с гейтом, оптимизатор Muon.

Замеры самой Qwen: SWE-bench Pro 62,5 против 53,4 у Opus 4.6 Max, GPQA 91,7. Картинки понимает, контекст 262 тысячи, до миллиона с YaRN, лицензия Qwen Community. В API 0,16 $ за млн входных токенов и 0,47 за выходные.

@neuro_channel
  • 🔥 5
  • ❤ 1
  • 👍 1
More from @neuro_channel
  1. Sep 20, 2026Tencent выложила WeVisDoc, модели на 2 и 4 млрд параметров, которые превращают снимок стра…
  2. Sep 19, 2026StepFun выпустила Step 5 Preview, и Artificial Analysis уже её замерили: 44 балла в индекс…
  3. Sep 19, 2026На следующей неделе ожидается сразу несколько крупных релизов. Расскажу про самые интересн…
  4. Sep 18, 2026Qwen выложила Qwen3.8-Omni-Flash: на вход текст, картинки, звук и видео, контекст 1M токен…
  5. Sep 18, 2026PrismML выпустила Ternary Bonsai 2 27B: тернарное сжатие теперь сделано поверх Qwen3.8 27B…
  6. Sep 17, 2026Стелс-модель Union Alpha раскрылась: это Pareto 26.9 от компании The Unbiased Company. Вче…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →