شرکت Liquid AI مدل LFM2.5-2.6B رو معرفی کرده که دقیقاً برای اجرای ایجنتهای هوش مصنوعی روی خود دستگاه (On-Device) طراحی شده.
اجرای محلی ایجنتها یعنی حذف هزینه توکن، کاهش تاخیر به حداقل و حفظ کامل حریم خصوصی. این مدل ۲.۶ میلیارد پارامتری با اینکه خیلی کوچیکه، توانایی برنامهریزی و فراخوانی ابزارها رو داره.
چند نکته مهم درباره این مدل:
• سرعت خروجی روی گوشی همراه به ۳۰ توکن در ثانیه میرسه (زیر ۲.۵ گیگ رم) و روی تراشههای اپل تا ۲۲۰ توکن در ثانیهست.
• پنجره کانتکست ۱۲۸K داره و برای ورودیهای بلند ایجنتها آماده شده.
• پایپلاین آموزش ۴ مرحلهای جالبی داره: ترکیب SFT، مدلهای معلم متخصص، تقطیر دانش چندحوزهای (MOPD) و Agentic RL با الگوریتم GRPO داخل محیطهای واقعی ایجنت مثل OpenClaw.
• در بنچمارکهای پیروی از دستورات و استفاده از ابزار، مدلهای بزرگتر مثل Gemma 4 (5B/8B) و Qwen3.5-4B رو شکست داده.
• از روز اول هم در llama.cpp (فرمت GGUF)، کتابخانه MLX، فریمورکهای vLLM و SGLang پشتیبانی میشه.
• سازگاری کامل با فریمورکهای ایجنت مثل Hermes Agent، OpenClaw و Pi
متن کامل مقاله و لینک چکپوینتها:
https://liquid.ai/blog/lfm2-5-2-6b
@DevTwitter | <Mehdi Allahyari/>
Post #12742
6.39K
- 👍 18
- 🔥 10