JetBrains объединили два Qwenа в один: локальный агент Junie стал умнее, генерируя на 71% меньше токенов

JetBrains опубликовали обновление Junie Local, - кодового-агента, работающего локально на вашей машине. В первом релизе приходилось выбирать: быстрая Qwen3.6 без рассуждений или умная Qwen3.8, которая думала в четыре раза дольше за счёт рассуждений.
Команда JB усреднила веса двух моделей. Без дообучения или дистилляции, - получили микс Qwen3.8-3.6-27B и опубликовали его на Hugging Face.

🧪 Ключевые цифры:
Внутренний бенчмарк из 100 задач: модель закрыла 37 задач против 34 у быстрой Qwen3.6 и почти догнал умную Qwen3.8 с ее 39.
При чём на задачах, с которыми новая микс-модель справилась так же как и Qwen 3.8, она тратит всего 279K токенов против 935K у Qwen3.8, - экономия получается около 70%, - это и быстрее и дешевле.
На LiveCodeBench за 4 прогона бленд взял 85.47% против 83.29% у Qwen3.8 при схожей цене вывода.

⚙️ Инженерия рантайма:
В модели используют MTP с 2мя токенами на раунд предсказания и получают на MacBook M5 прирост к скорости в 60%. Если поставить 4 токена, то прирост скорости проседает до 36%.
Деталь: 4-битная голова MTP принимает 63.0% гипотез против 63.6% у 8-битной, - разницы в скорости нет, поэтому выбрали Q4 ради экономии памяти.

🐛 Ловушка воспроизводимости:
Интересный баг: фиксированный сид для повторяемости тестов вызывал числовую нестабильность, - модель заклинивало на неудачном действии.
Фикс: продвигать сид на каждом шаге агента.

🪟 Что доступно:
Apple M5: обновите Junie, модель переключается командой /model.
Windows: ночные сборки с экспериментальной поддержкой RTX (Ampere и новее, от 24 ГБ видеопамяти).

https://huggingface.co/JetBrains/Qwen3.8-3.6-27B-blend

Неожиданно смесь весов дала дешёвый и значительный прирост в эффективности моделей.

#Junie #локальныемодели #слияниемоделей #Qwen #ИИ
———
@tsingular | Max | YouTube | RuTube | VK | VK Video | Дзен