Выкатили два обновления в AI-сервисах, чтобы вы могли платить меньше за запросы и заранее определять бюджет:
1️⃣ Batch API — запросы за полцены
Если ответ не нужен сразу — отправляйте запросы единым пакетом через Batch API в AI Gateway. Входные и исходящие токены обойдутся вдвое дешевле, чем при обычном обращении.
Как использовать: соберите до 50 000 запросов в файл, отправьте через API и получите файл с ответами в течение 24 часов.
Подробная инструкция → в документации.
2️⃣ Лимиты в рублях — без пересчета токенов
Добавили лимиты в рублях для AI-сервисов и AI-ключей — теперь вы сами фиксируете траты.
Можно настроить дневной бюджет для AI-сервиса / общий дневной лимит для AI-ключа / отдельные суммы для выбранных моделей AI-ключа.
Например, задайте лимит для ключа — 3 000 ₽ в день, а для самой дорогой модели — 1 000 ₽. Когда лимит закончится, новые запросы не пройдут.
Где настроить: «Управление» в настройках агента или AI-ключа → «Установить лимиты» → указать сумму в рублях.
Сэкономить на AI по максимуму →