Интересный блогпост на лицехватс 🤗 про оптимизацию FP4 кернела под MoE.
Он содержит в себе детальный анализ работы кернелов и отпимизаций в разных фреймворках (vLLM, SGLang, FlashInfer).
Post #615
1.58K
- 😁 3
- Oct 7, 2026А еще есть красивая демка
- Oct 7, 2026⚙️ Метод MMD есть мера различия между двумя распределениями P, Q. Задается некоторый полож…
- Oct 7, 2026🧠 Representation-Space MMD for Diffusion Language Models 📄 Статья Первое, что приходит в…
- Oct 7, 2026А вообще, можно энкодить все на языке brainfuck и иметь Тьюринг-полную систему.
- Oct 7, 2026Jev не генеративен, потому что он не выбирает следующий токен, а выбирает один из варианто…
- Oct 6, 2026Совпадение? Не думаю!