Анонимная модель Ox Alpha неделю была самой популярной на OpenRouter и почти вдвое обгоняла остальных по трафику. Оказалось, это не новый флагман, а дешёвая GLM-5.3 Flash от Z.ai.
Многие принимали дешевую модель за топовую и не чувствовали разницу. И это хорошо показывает новый тренд: одной моделью на всё уже не обходятся. Преимущество постепенно переезжает из самой модели в обвязку вокруг неё: инструменты, память, самопроверку и оркестратор, который решает, какую модель вызвать под конкретную задачу. Простое можно отдать дешёвой, сложное — мощной.
Bedrock уже предсказывает, какая модель лучше справится с запросом, Perplexity выбирает её автоматически. В тестах умный роутинг снижал расходы до 85% при почти том же качестве.
@typespace
Post #3846
45.6K

- ❤ 50
- 👍 18
- 🤯 9