TGViewer
Updates rtfm.co.ua 🇺🇦 Updates rtfm.co.ua 🇺🇦 @rtfmcoua · 821 subscribers
Post #563 943
LiteLLM: AI Gateway в Kubernetes та метрики до VictoriaMetrics

https://rtfm.co.ua/draft-litellm-run-in-kubernetes/

#Helm #Kubernetes #LiteLLM #VictoriaMetrics
RTFM: Linux, DevOps та системне адміністрування | DevOps-інжиніринг та системне адміністрування. Випадки з практики. LiteLLM: AI Gateway в Kubernetes та метрики до VictoriaMetrics Деплой LiteLLM AI Gateway в Kubernetes з Helm chart, Redis, PostgreSQL та External Secrets Operator із AWS Secrets Manager, збір метрик до VictoriaMetrics
  • 🎉 6
Open in Telegram All posts from @rtfmcoua
More from @rtfmcoua
  1. Oct 1, 2026Якось пропустив, що блогу в цьому році виповнилось 15 років 🤯 Ювілей. Офігєть. Зазвичай н…
  2. Sep 30, 2026AI: LLM, агенти, робота і ми – інженери. Особисті думки. https://rtfm.co.ua/ai-agenty-i-ro…
  3. Sep 24, 2026AI: контроль витрат LLM з LiteLLM Budgets та OpenAI Limits https://rtfm.co.ua/llm-control-…
  4. Sep 16, 2026LiteLLM: дебаг AI Cost Monitoring з VictoriaMetrics https://rtfm.co.ua/litellm-llm-costs-d…
  5. Sep 11, 2026LiteLLM: Custom Callback та LLM Evaluations з Judge LLM https://rtfm.co.ua/llm-evaluation-…
  6. Sep 9, 2026LiteLLM: Custom Callback для traffic mirroring та OTel tracing до VictoriaTraces https://r…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →