🔖 Автоскейлинг Kubernetes-нагрузок по GPU

KEDA GPU Scaler — внешний scaler для KEDA, который получает метрики NVIDIA GPU напрямую через NVML и масштабирует workloads без Prometheus..

Подходит для vLLM, Triton, training jobs и кастомных inference-нагрузок.

⛓️ Ссылка на GitHub

tags: #полезное

➡ DevOps Community | Чат