AI Gateway

AI Gateway — это open-source API-прокси, обеспечивающий быстрый унифицированный доступ к 250+ LLM с задержкой менее миллисекунды.

- Маршрутизирует к 1600+ моделям через провайдеров языка, зрения, аудио и изображений
- Обрабатывает автоматические повторные попытки, fallback'и и балансировку нагрузки для надёжности в продакшене
- Весит 122 КБ и обрабатывает 10B+ токенов ежедневно в продакшене
- Разворачивается локально одной командой npx или на AWS EC2

📁 Language: #TypeScript 95.8%

⭐️ Stars: 12k

➡️ Cсылка на GitHub

📱 @git_developer