✏️ Планируем GPU-нагрузку в Kubernetes: от стандартных механизмов до кастомных решений

Стандартный планировщик Kubernetes создавался для общих задач балансировки. Он отлично справляется с CPU и RAM, но, когда дело доходит до дорогих GPU, его базовых возможностей часто не хватает. Становится сложно утилизировать видеокарты полностью, бороться с фрагментацией ресурсов и выставлять приоритеты для критичных ML-задач.

В карточках разбираем эволюцию инструментов шедулинга, которые решают эти проблемы. А в статье собрали юзкейсы и рекомендации по выбору оптимального стека.