کاهش مصرف توکنها به دو برابر — انویدیا یک سیستم رایگان به نام SoL-Pi را در گیتهاب منتشر کرده است.
این سیستم، عملکرد شبکههای عصبی را بهبود میبخشد:
- گزینههای مختلفی از ساختارها را بررسی کرده و چهار مورد از بهترین مکانیسم را مستقیماً در سیستم قرار داده است.
- روشها، متن، نتایج و گزارشها را فشرده میکنند.
- بر اساس تستها در GPT-5.6، Sol و Opus 5 توانستند مصرف توکنها را 50٪ کاهش دهند و در عین حال، کیفیت نتایج را حفظ کنند.
- کاهش هزینه عملیاتی عوامل: حدود 30٪.
https://github.com/NVlabs/SoL-Pi?
Post #14756
3.41K
- 👍 9