Сокращаем расход токенов почти вдвое — Nvidia выкатила в опен-сорс систему SoL-Pi, которая улучшает харнесс нейронок.
• Исследователи перебрали множество вариантов обвязки, протестировали и собрали внутри системы сразу четыре лучших механизма.
• Методы улучшают повторные действия, сжимают контекст, результаты и логи.
• Благодаря системе, на EdgeBench с GPT-5.6 Sol и Opus 5 разрабы смогли сократить расход токенов на 50%. При этом удалось сохранить сопоставимое качество.
• Система также сокращает стоимость работы агентов примерно на 30%.
Статью о системе забираем — тут.
Код тестим — здесь.
👍 Бэкдор
Post #31549
40.4K
- 🔥 65
- 😁 26
- 👀 6