Anthropic заметно ускорили Claude
В Claude Code задержка до появления первого токена сократилась в 3 раза. В чате, в Cowork и в API — в 1.5 раза.
Сначала Claude Code теперь отправляет модели историю диалога в виде сжатого архива, который быстрее передается по сети.
Затем, если раньше облачная среда запускалась уже после отправки сообщения, то теперь она начинает подготавливаться сразу после начала ввода, и к моменту отправки промпта уже готова, так что дополнительное время на ее запуск не тратится.
Также в новой версии Claude Code добавили idle compaction: если разговор с 200 тыс. токенов бездействует примерно 54 минуты, его автоматически сжимают.
Это связано с тем, что кэш промпта живет ровно час, а сжатие выполняют незадолго до его сброса, чтобы следующее сообщение не пересчитывало весь длинный контекст по полной цене (changelog).
INCUBE.AI | ПОДПИСАТЬСЯ
Post #3568
739

- 👍 7