تقریباً ۱٫۷ میلیارد توکن در ماه ظرفیت inference (از Google Gemini، Groq، Mistral، Cerebras، OpenRouter، GitHub Models، Cloudflare، NVIDIA، HuggingFace و ... + endpointهای سفارشی مثل Ollama، vLLM و LM Studio) ارائه می‌ده.
ویژگی‌های اصلی:
🔤 یه endpoint واحد (/v1/chat/completions) برای همه‌چی
🔤 روتینگ هوشمند + failover خودکار (در صورت rate limit شدن، خودکار سراغ کلید بعدی میره)
🔤 مدیریت دقیق quota هر API Key برای موندن داخل free tier
🔤 ذخیره‌سازی رمزنگاری‌شده کلیدها
🔤 داشبورد مدیریت API Key
🔤 نصب آسان با Docker
در واقع همه free tierهای پراکنده رو تبدیل کرده به یه LLM قدرتمند و همیشه در دسترس، بدون اینکه مجبور بشی با کلی SDK و rate limit جداگانه کلنجار بری.
بهترین‌ها برای کدنویسی (بر اساس این پروژه و لیست هوش مصنوعی‌ها) عمدتاً DeepSeek V4 Pro، Qwen3-Coder سری (مخصوصاً Qwen3-Coder Next و 480B) و Codestral/Devstral هستن.
https://github.com/tashfeenahmed/freellmapi
@DevYara