🔌 Годнота: нашёл мульти-провайдер LLM, который сам выбирает самую дешёвую нейронку для каждого запроса.
• Поддерживает модели OpenAI, Anthropic, xAI и OpenRouter.
• Переподключает модели, если какая-то LLM перестала работать или израсходовала токены.
• Проверяет доступность модели у провайдеров, сравнивает цены и выбирает самый дешёвый (!) вариант.
• Можно на своём сервере приватно централизовать все API-ключи и запросы через единый шлюз.
• Есть реал-тайм дашборд, чтобы смотреть расход токенов и аналитику.
• Всё безопасно: у проекта 100% открытый код, ставится локально, напрямую подключён к API.
Установить — тут.
@notboring_tech
Post #3911
6.54K

- 👍 19
- 🔥 10
- 👏 5
- 🤯 2