🔎 Логи AI Gateway теперь показывают привязку сессий

В логах AI Gateway появилось представление Sessions: запросы сгруппированы по сессиям и видно, как session affinity маршрутизировала каждый ход. В каждой строке указывается агент или приложение (Claude Code, Codex, Cursor), стоимость, модели, провайдеры и доля входных данных, прочитанных из кэша по каждому шагу.

Откройте сессию, чтобы увидеть cache hit rate, длительность и путь сессии — каждый ход с моделью и таймингом, а также провайдера, который обслуживал сессию и предыдущие шаги. Session affinity по умолчанию включена для текстовых и chat‑запросов: следующий ход отправляется тому же провайдеру, что увеличивает попадания в кэш.

Фильтры позволяют отбирать сессии по числу ходов, клиенту, модели, провайдеру, аутентификации и затратам. Чтобы группировать вручную, отправляйте одинаковый sessionId в providerOptions.gateway или одинаковый x-session-id в заголовке; без них сессии группируются по отпечатку первого запроса.

Новость

#Vercel #AIGateway #SessionAffinity #Observability #AI