LiteLLM 1.103.0-rc.1 получил расширение для VS Code и управление MCP-сессиями

Вышла предварительная версия LiteLLM, единого интерфейса в формате OpenAI для разработчиков и ML-платформенных команд, которые обращаются к моделям более чем 100 провайдеров. Теперь LiteLLM можно использовать как поставщика языковых моделей прямо в VS Code.

Администраторы MCP-шлюза получили панель активных сессий с привязкой к AI-клиенту и пользователю. Подключения можно принудительно закрывать, а сохранённые учётные данные отзывать. В Speech API также появились новые маршруты и потоковое распознавание через несколько речевых сервисов.

В новости Tproger перечислены поддерживаемые сервисы и ограничения RC-версии: для рабочих систем проект рекомендует стабильные образы, прошедшие нагрузочное тестирование.