Сокращаем расход токенов почти вдвое — Nvidia выкатила в опен-сорс систему SoL-Pi, которая улучшает харнесс нейронок.

• Исследователи перебрали множество вариантов обвязки, протестировали и собрали внутри системы сразу четыре лучших механизма.
• Методы улучшают повторные действия, сжимают контекст, результаты и логи.
• Благодаря системе, на EdgeBench с GPT-5.6 Sol и Opus 5 разрабы смогли сократить расход токенов на 50%. При этом удалось сохранить сопоставимое качество.
• Система также сокращает стоимость работы агентов примерно на 30%.

Статью о системе забираем — тут.
Код тестим — здесь.

👍

Пиксель 👾