🔖 Большая база по GPU и оптимизации AI-инференса

В подборке собраны материалы по CUDA, Roofline, FlashAttention, KV-cache, batching, quantization, MoE и оптимизации LLM-инференса.

Есть и свежие темы по Blackwell, CDNA 4, Trainium3 и будущим Rubin/CDNA 5.

⛓ Ссылка на GitHub

tags: #полезное

➡ Data Scientist | Чат