Поделюсь настройкой в CLI, которая сэкономила мне кучу токенов.
Речь пойдет о кэшировании токенов и том, как это отслеживать, чтобы не случайно не отправить агенту запрос, который сожрет половину недельных лимитов.

Сначала теория.
Когда вы отправляете запрос агенту, он читает всю историю переписки, вызовов инструментов и так далее.
Почему это дешево. Потому что антропик кэшируют токены (prompt_caching). Это называется теплый кэш. Чтение из кэша стоит около 10% цены обычного входа (на Opus 5.5 — 5%, на Fable 5.1 — 2,5%).

Живет кэш 1 час.

Спустя час кэш остывает, и если вы даже в той же сессии отправите любой запрос, хоть один символ, то агенту придется читать всю вашу историю переписки так, будто он это делает в первый раз, соответственно, если сессия длинная, это сильный удар по вашим токенам и лимитам.

Я знал про это, как и многие из вас. Однако сознательно не отслеживал.

Кэш и его текущее состояние можно отслеживать. И когда я начал это делать, понял, что раньше кучу раз забывал про него, давал кэшу остыть и моя сессия читалась по полной цене.

Ниже промпт. Отправьте его клоду. Он добавит вам в statusline под строкой чата информацию о том, когда у вас остынет кэш, чтобы вы успели написать в чат какой-нибудь запрос, хотя бы просто пингануть модель, чтобы получить еще 1 час.

Промпт в файле