AI: контроль витрат LLM з LiteLLM Budgets та OpenAI Limits
https://rtfm.co.ua/llm-control-litellm-budgets-openai-limits/
#AI #Grafana #LiteLLM #LLM #LLMOps #VictoriaMetrics
Post #576
485
- Oct 1, 2026Якось пропустив, що блогу в цьому році виповнилось 15 років 🤯 Ювілей. Офігєть. Зазвичай н…
- Sep 30, 2026AI: LLM, агенти, робота і ми – інженери. Особисті думки. https://rtfm.co.ua/ai-agenty-i-ro…
- Sep 16, 2026LiteLLM: дебаг AI Cost Monitoring з VictoriaMetrics https://rtfm.co.ua/litellm-llm-costs-d…
- Sep 11, 2026LiteLLM: Custom Callback та LLM Evaluations з Judge LLM https://rtfm.co.ua/llm-evaluation-…
- Sep 9, 2026LiteLLM: Custom Callback для traffic mirroring та OTel tracing до VictoriaTraces https://r…
- Aug 21, 2026LiteLLM: Traffic Mirroring та Batch Completions і трафік до двох провайдерів https://rtfm.…