Кэширование критично для клиентов, чтобы снижать как затраты, так и время до первого токена (TTFT).

Anthropic запускают дашборд Prompt Caching в Claude Developer Console, чтобы повысить прозрачность и помочь клиентам оптимизировать использование.

Что такое кэширование промптов? Подробнее в статье про кэширование промптов в API Claude

+ Разбор того, как повысить долю попаданий в кэш промптов 🐝