Huihui4-8B-A4B-v2 - это легкая MoE-модель для диалогов, оптимизированная на базе архитектуры Google gemma-4-26B-A4B-it.
Разработчики уменьшили модель через pruning экспертов и дообучили ее на качественных диалоговых данных. Датасет использует thinking mode в формате GLM-5.1, поэтому в режиме рассуждения модель лучше имитирует стиль мышления GLM-5.1.
Главная идея - снизить вычислительные затраты, но сохранить базовые способности к reasoning и нормальному диалогу.
Модель рассчитана на запуск на обычном пользовательском железе и особенно ориентирована на code-related conversational tasks.
https://huggingface.co/huihui-ai/Huihui4-8B-A4B-v2
Post #2731
4.51K

- 😁 40
- 🔥 5
- ❤ 4
- 🌭 3