Ваш Клод Код выжирает токены во время "сна", а вы про это даже слушать не хотите
Вот читаю я ваши комменты в чате часто, ребята, и смотрю многие с математикой сильно не дружат. Не спроста этот опрос.
Смотрите, какая математика:
Контекст накапливается по 10К токенов.
1 ход + 10К
2 ход + 10К
в сумме уже 20К (но, 10К читается из кэша и стоит в 10 раз дешевле)
loop
т.е. если мы хорошенько это зациклим, то не важно, сколько там было контекста, 100К или 200К, просто ходов нужно чуть больше.
Для удобства предлагаю считать по 200К вроде бы не много, но т.е. он там в цикле что-то ждет.
5 ходов, на каждом добавляем по 10к, через 5 ходов будет
1 - 200
2- 210
3- 220
4- 230
5 - 240 (на спидометре вот столько)
А по факту уже более 1.05М (потому что, я не учитывал, сколько до этого было ходов, я просто демонстрирую механику)
И как часто такое происходит?
У меня база: 12,493 ходов в 1266 сессиях (213,309 billed-раундов).
Предварительно в 30% ходов. Рекордсмен обычная кодинг-сессия, 273M токенов сна в одном ходе.
Оркестратор проверяет githubstatus.com — подтверждает major_outage с 15:22 UTC, отписывает воркеру. Дальше — ночной цикл, ~27 итераций: ScheduleWakeup +1200s (20 мин) → curl githubstatus → ao session ls → снова будильник. В 01:00 инцидент переходит в mitigated — интервал сокращается до 900s, дежурство продолжается до 02:49, когда приходит следующий внешний вход.
Дорогой тик = раунд, где выставлено ≥50k billed-токенов (input+cache), а произведено ≤300 токенов выхода. Проснулся, перечитал весь контекст, сказал/сделал почти ничего.
Сумма контекста раундов с выходом ≤300 токенов = 47.5% счёта корпуса - «паттерн долгоживущих ходов» (16.0 млрд из ~33.7 млрд).
Половина вашего счёта — модель перечитывает контекст, чтобы ничего не делать.
Агенту на это вообще сугубофиолетово. Ему все равно, сколько и чего он в кэш записал. Вам тоже сказали, что чтение из кэша стоит в 10 раз дешевле, чем генерация нового токена.
Так вот в кэш вы записали 1М (вы надеюсь уже поняли как), а сгенерировали 300 токенов. Повторите цикл столько раз, чтобы достигнуть 16 млрд. токенов.
Т.е. я хочу прямо написать, что вообще пофигу, что в кэш записано, важно только, сколько раз был повторен цикл.
И Антропику на это тоже совершенно пофигу. Чем больше денег вы сожжете — тем больше они заработают, этоже ваш цикл, а не их.
Тут стоит честно оговориться, что я работал над этой статьей пару дней и не уверен на 100%.
Для исследования я использовал вот этот форк: https://github.com/axisrow/claude-devtools - и я туда еще не запушил даже. Потому что, мэинтейнер ушел на на более интересные проект Harbor (это те что Тбенч делают). Ну и он как весь вайбокод кривой, косой и забагованный, так что веселье продолжается.
Post #2053
464

- ❤ 4
- 🔥 2