‏headroomlabs-ai/headroom
‏ابزار فشرده‌سازی context قبل از رسیدن به LLM

‏خروجی ابزارها، لاگ‌ها، فایل‌ها و RAG chunk‌ها را قبل از ارسال به LLM فشرده می‌کند. برای coding agent‌ها ۲۰٪ و برای JSON تا ۶۰ تا ۹۵٪ token کمتر مصرف می‌شود — با همان کیفیت پاسخ. به‌صورت library، proxy و MCP server در دسترس است.

‏نظر هوش مصنوعی — ⭐ ۷/۱۰
‏🎯 چرا مهمه: هزینه‌ی inference و محدودیت context window دو دردسر جدی در ساختن agent‌های عملیاتی‌اند؛ این ابزار بدون تغییر در معماری، مستقیم روی هر دو اثر می‌گذارد.
‏💡 نکته: کاهش ۶۰ تا ۹۵ درصدیِ token در JSON یعنی بخش بزرگی از context بلوعت می‌شد که اطلاعات واقعی نبود — این ابزار آن را می‌تراشد.
‏👥 برای کی: توسعه‌دهنده‌هایی که روی LLM agent، RAG pipeline یا کاهش هزینه‌ی API کار می‌کنند.

‏🔗 https://github.com/headroomlabs-ai/headroom
‏#backend #ai #LLM

‏@BenFeed