هزینه‌ی LLMها رو حدسی حساب نکن!

ریپو tokencost یه پروژه‌ی اوپن‌سورس کاربردیه که کمک می‌کنه قبل از اجرای درخواست بفهمی استفاده از هر مدل LLM چقدر برات هزینه داره.

چی کار می‌کنه؟
محاسبه دقیق تعداد توکن‌ها
تخمین هزینه دلاری prompt و completion
پشتیبانی از مدل‌های مختلف (OpenAI، Anthropic، Bedrock و …)
مناسب برای agentها و سیستم‌های production

برای کسایی که دارن AI agent یا workflow جدی می‌سازن، این ابزار واقعاً ضروریه
کنترل هزینه و معماری بهتر.

https://github.com/AgentOps-AI/tokencost

@DevTwitter | <Amir Pournasserian/>