یه رقیب متن‌باز و لوکال برای Jev پیدا شده که روی مک، تصمیم‌ها رو در چند میلی‌ثانیه می‌گیره…👀

یک توسعه‌دهنده مدل Laya رو به فریم‌ورک MLX اپل منتقل کرده و نسخه‌ای به اسم Laya-MLX ساخته؛ مدلی که روی Apple Silicon اجرا می‌شه و برای تصمیم‌گیری سریع و ساختاریافته طراحی شده.

برخلاف چت‌بات‌ها، Laya قرار نیست متن طولانی تولید کنه؛ بیشتر برای انتخاب بین گزینه‌ها، امتیازدهی و تصمیم‌های سریع ساخته شده.

در تست‌های منتشرشده، نسخه 421M روی M3 Max برای بعضی تصمیم‌های کوتاه به حدود 13 میلی‌ثانیه رسیده و مصرف حافظه هم حدود 1 گیگابایت گزارش شده.

توسعه‌دهنده حتی ادعا کرده که در بعضی سناریوها Laya-MLX تا 50 برابر سریع‌تر از Jev عمل می‌کنه؛ هرچند این عدد هنوز یک ادعای مستقیم از سمت سازنده‌ست و نباید به‌عنوان نتیجه قطعی در همه سناریوها در نظر گرفته بشه.

📩 ریپوش:
https://github.com/mizorewww/laya-mlx

کانال استارکوچ | کانال کامیونیتی کلاد فارسی