[Лучшие статьи за неделю / Высоконагруженные системы / Хабр]
SGLang без магии: как устроены основные настройки инференса LLM
#context_parallelism #sglang #инференс_llm #оптимизация_инференса
Читать
Post #48307
1
- Oct 7, 2026[Лучшие статьи за неделю / Алгоритмы / Хабр] Уроки GEO-продвижения: как за 2 месяца увелич…
- Oct 7, 2026[Лучшие статьи за неделю / Сетевые технологии / Хабр] Локализация, как ловушка: в какой мо…
- Oct 7, 2026[Лучшие статьи за неделю / Высоконагруженные системы / Хабр] Потоки, события и ожидание ре…
- Oct 7, 2026[Лучшие статьи за неделю / Высоконагруженные системы / Хабр] Go 1.25 сам читает лимит CPU,…
- Oct 7, 2026[Лучшие публикации за неделю / Разработка] В Китай за embedded-мечтой: программируем микро…
- Oct 7, 2026[Лучшие статьи за неделю / Высоконагруженные системы / Хабр] Roaring Bitmap: как уместить…