ریپو Headroom یه پروژه اپن سورسه که میخواد یکی از پرهزینهترین مشکلات Agentهای هوش مصنوعی، یعنی هدر رفتن توکنها رو حل کنه. این ابزار بین Agent و مدل زبانی قرار میگیره و چیزهایی مثل JSON، کد، لاگ و دادههای RAG رو قبل از ارسال به مدل فشرده میکنه تا فقط اطلاعات ضروری وارد context بشن.
طبق نتایج اعلامشده، Headroom میتونه مصرف توکن رو تا ۹۵٪ کاهش بده، بدون اینکه نیازی به تغییر کد داشته باشی و در عین حال دقت benchmarkها حفظ بشه. دادههای اصلی هم روی سیستم خودت باقی میمونن و پردازشها بهصورت local انجام میشن. راهاندازیش هم خیلی سادهست و با ابزارهایی مثل Claude Code، Cursor و Codex کار میکنه.
https://github.com/headroomlabs-ai/headroom
@DevTwitter | <Reza Jafari/>
Post #13289
5.75K

- ❤ 15
- 👍 7
- 🔥 3