📰 GoModel: единый API-шлюз для всех LLM сразу
OpenAI-совместимый API поверх всего зоопарка моделей: OpenAI, Claude, Groq, Ollama и другие через одну точку входа. По сути nginx, но для LLM.
Главная фича — двухслойный кэш с семантическим уровнем: до 60–70% запросов вообще не доходят до модели. Быстрее и заметно дешевле.
⛓️ Ссылка на GitHub
tags: #новости
➡ Data Scientist | Чат | ИИ-Бот
Post #880
612
- ❤ 2
- 👍 1
- 🔥 1