Походу MoonShot-AI использовали нашу кодобазу MoE-Quant для квантизации модельки.
- Конфиг Kimi-K2-Thinking
- Скрипт конвертации в compressed-tensors
Мелочь, а приятно)
Post #579
2.25K
- 🔥 32
КП КПД @quant_prune_distill · 3.49K subscribers