TGViewer
КПД КПД @quant_prune_distill · 3.49K subscribers
Post #735 2.2K
TileLang (DSL для написания кернелов, представленный на ICLR 2026), как мне кажется, один из самых перспективных языков для написания кернелов.

С одной стороны, дает гораздо больший контроль над результатом, так как пользователь может явно работать с разными видами памяти (регистры, shared memory / tensor memory), с разбиением задач на блоки и потоки, контролировать тип используемых gemm-ов, задавать синхронизации, барьеры, и многое другое. И в то же время он все еще значительно проще в освоении и в синтаксисе, чем CUDA + CUTLASS, CuTe DSL.

Из проектов и реализаций, использующих его стоит отметить:
• TileKernels от DeepSeek
• FlashQLA от Qwen3
• tilelang-ascend (адаптация tilelang под хуавеевские асценды)

Из обучающих материалов могу порекомендовать:
• tilelang-puzzles - набор задачек возрастающей сложности, чтобы пощупать язык
• Примеры из оригинального репозитория
• Туториал по написанию FlashAttention под AMDшные GPU

Мне он видится как довольно хороший баланс между эффективностью / гибкостью и сложностью в освоении.
  • 🔥 14
  • ❤ 3
More from @quant_prune_distill
  1. Oct 6, 2026Совпадение? Не думаю!
  2. Oct 5, 2026Теперь уже даже время прочтения блога это ориентир не для человека, а для LLMки. https://r…
  3. Oct 4, 2026"Горячие" эксперты
  4. Oct 4, 2026photo post
  5. Oct 1, 2026🛠 Метод Типичный scaling law имеет вид: L(N, D) = A N^α + B D^β + c 🔄 Скейлинг по рекурс…
  6. Oct 1, 2026Scaling Laws for Looped Mixture of Experts 📄 Статья Есть MoE, которые как-то скейлятся (п…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →