Полезный совет, чтобы сократить time-to-first-token (TTFT) для длинных промптов в API: заранее прогрей кеш промпта.

Отправь system prompt раньше user prompt. Claude запишет его в кеш, но не будет генерировать ответ.

Когда придёт реальный запрос пользователя, он попадёт уже в «прогретый» кеш. 🏋️‍♂️