Our finding is that Block-Diagonal Rotation (BDR) before token-wise INT4 quantization recovers nearly all accuracy lost by naıve quantization.
[Статья]
Post #701
2.37K
[Статья]
- 🔥 16
- 😁 8
- 🗿 2
КП КПД @quant_prune_distill · 3.49K subscribers [Статья]
- Oct 6, 2026Совпадение? Не думаю!
- Oct 5, 2026Теперь уже даже время прочтения блога это ориентир не для человека, а для LLMки. https://r…
- Oct 4, 2026"Горячие" эксперты
- Oct 4, 2026photo post
- Oct 1, 2026🛠 Метод Типичный scaling law имеет вид: L(N, D) = A N^α + B D^β + c 🔄 Скейлинг по рекурс…
- Oct 1, 2026Scaling Laws for Looped Mixture of Experts 📄 Статья Есть MoE, которые как-то скейлятся (п…