TGViewer
Анализ данных (Data analysis) Анализ данных (Data analysis) @data_analysis_ml · 50.6K subscribers
Post #5677 4.32K
🔥 Hy4-preview ужали с 1,5 ТБ примерно до 200 ГиБ - и качество почти не просело

Новая квантизация MIX-STQ1_0 подбирает битность отдельно для каждого слоя по calibration data:

- часть слоёв ужимается до 1.31-bit
- часть остаётся около 2.06-bit
- при том же размере ошибка получается ниже

Результаты против BF16:

- MCP Atlas: 83.7 → 83.2
- SWE-Bench multi: 82.9 → 81.3
- MRCR: 81.3 → 81.1
- IFBench: 73.5 → 72.5

То есть модель стала примерно в 7,5 раза меньше, а качество на тестах изменилось совсем немного.

GGUF:
https://huggingface.co/AngelSlim/Hy4-preview-GGUF
  • 🔥 15
  • 👍 8
  • ❤ 3
  • 🤣 1
More from @data_analysis_ml
  1. Sep 22, 2026⚡️ Claude сам сгенерировал вредоносную инструкцию При тестировании ранней версии Claude Op…
  2. Sep 22, 2026⚡️OpenAI выпустила GPT-6 Sol и GPT-6 Luna Семейство GPT-6 расширилось сразу двумя новыми м…
  3. Sep 22, 2026LFM2.5 вошла в лидеры локальных моделей для смартфонов 📱 Artificial Analysis протестирова…
  4. Sep 22, 2026🚨 Alibaba представила один из самых агрессивных планов развития ИИ Главное: • Qwen 4 уже…
  5. Sep 22, 2026Один вечер — много возможностей! ⚡️ 25 сентября у тебя будет шанс познакомиться сразу с че…
  6. Sep 22, 2026Xiaomi представила MiMo-V2.6 с открытыми весами 👀 В семейство вошли две MoE-модели: - Fla…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →