🕸️ Нашёл удобное решение для всех, кто потерял доступ к OpenRouter после отключения сервиса в России и не хочет намертво привязываться к одному LLM-провайдеру.

Если сегодня для проекта лучше подходит модель от Anthropic, завтра от OpenAI, а через месяц появляется новая модель дешевле и быстрее у другого провайдера — стоит посмотреть на API-шлюзы, такие как Caila от Just AI.

Сервис подключается один раз, а дальше можно переключаться между 350+ моделями и провайдерами без смены SDK. А ещё — распределять запросы по цене, качеству или доступности модели.

Наткнулся на Хабре на разбор, как устроен такой единый API изнутри — как работает автоматическое переключение между провайдерами, выбор дешёвых моделей и защита чувствительных данных.

Забираем подход на заметку.

@notboring_tech