ИИ-агенты тратят СЛИШКОМ МНОГО токенов — NVIDIA показала, как сократить расход почти вдвое.
Компания открыла код SoL-Pi — системы, которая оптимизирует работу агентного харнесса: убирает лишние повторения, сжимает контекст, логи и результаты вызовов инструментов.
На EdgeBench исследователи получили до 50% экономии токенов с GPT-5.6 Sol и Opus 5 без существенной потери качества. Расходы на работу агентов при этом снизились примерно на 30%.
Терабит
Post #8220
1.47K