Anthropic существенно ускорили Claude
В Claude Code время ожидания до генерации первого токена упало в 3 раза. В чате, в Cowork и в API – в 1.5 раза.
Во-первых, Claude Code теперь передает модели историю диалога в виде сжатого архива, который уходит по сети быстрее.
Во-вторых, если раньше облачная среда запускалась после отправки сообщения, то теперь она начинает подниматься, как только вы начали печатать, и к моменту отправки промпта уже готова, так что доп.время на ее запуск не тратится.
Кстати, в новой версии Claude Code также добавили функцию idle compaction: если разговор от 200 тыс. токенов простоял без дела около 54 минут, его автоматически сжимают.
Дело в том, что кэш промпта живет как раз час, и сжатие делают незадолго до того, как кэш сбросится, чтобы следующее сообщение не пересчитывало весь длинный контекст по полной цене (changelog).
Post #10174
13.4K

- ❤🔥 117
- 👏 44
- ❤ 23
- 👍 14
- 😍 9
- 🔥 1
- 😢 1
- 🕊 1
- 💯 1
- 🦄 1
- 😎 1