❓ Почему простой вопрос вдруг стал дорогим
Наткнулся на кейс в issues OpenClaw и там автор заметил, что после пары сотен сообщений агент начал упираться в лимит токенов, причем второй раз - уже через 20–30 сообщений, хотя запросы были простые.
Разгадка оказалась не в самих запросах. Один раз в основной чат случайно выгрузили огромный вывод - например, полный дамп конфига. Агент сохраняет выводы инструментов в историю сессии и с этого момента каждый следующий, даже мелкий, вопрос тащит за собой весь этот раздутый контекст. Счет идет на сотни тысяч токенов кэша за ход, хотя ты спросил какую-то ерунду.
Самое интересное - компакция в OpenClaw включена по умолчанию, но в этом случае она не спасла, потому что проблема не в длине истории как таковой, а в том, что один жирный вывод отравил контекст и начал таскать его дальше.
Что из этого вынести:
🔸 тяжелые команды с большим выводом - дампы конфига, логи, статусы - гонять в отдельной сессии, а в основной чат вставлять только короткий кусок;
🔸 если агент начал падать по лимиту посреди работы, первым делом смотреть не затащил ли он в контекст что-то огромное, а не менять модель;
🔸 для фоновых задач использовать изолированные cron-задачи - они каждый запуск стартуют с чистого листа и не наследуют раздутый контекст.
📌 Вот сам кейс, если кому интересно
Post #94
174
