https://github.com/chopratejas/headroom - держите годноту. Сейчас в топ-1 на github-е.
К теме экономии контекста опять.
P.S. под капотом RTK + некое подобие RAG (синоним экономии токенов вцелом) где вектор вычисляется для лога агента.