🧠 OpenAI включил серверное кэширование: меньше токенов на каждом запросе
Раньше у многих API-вызовов была неприятная особенность: в каждый запрос тащили весь контекст целиком. Чем длиннее переписка, тем больше входных токенов и тем заметнее счёт.
Теперь часть данных может храниться на стороне OpenAI. Для коротких сообщений это уже не выглядит как «снова отправили всё прошлое обсуждение». Удобно, пока не приходит счёт за лишний контекст.
Что это даёт
• Меньше входных токенов на обычных запросах
• Ниже расходы на длинные диалоги и цепочки действий
• Проще держать активные сессии без постоянного раздувания контекста
На что смотреть
• Что именно кэшируется, а что уходит в запрос
• Как меняется расход токенов в статусе
• Где экономия есть, а где контекст всё равно нужно передавать
Что сделать
• Обновить настройки в Claw
• Проверить статус использования
• Сравнить расход токенов на коротких и длинных сценариях
Это не отменяет аккуратную работу с контекстом, но заметно снижает лишние расходы. Сохраните, чтобы проверить настройки перед следующей серией запросов.
Post #37
136
