🖥 مدل غول‌پیکر روی کارت گرافیک گیمینگ؟ این پروژه می‌گوید شدنی است

پروژهٔ متن‌باز Strata از Niko1221 این روزها در صدر Hacker News است (حدوداً ۶۶۰ امتیاز و ۳۰۰ نظر). ادعایش: اجرای مدل وزن‌باز Qwen 3.8 Flash Next — که سازنده آن را ۱۲۵ میلیارد پارامتری معرفی می‌کند — روی یک کامپیوتر خانگی.

ترفندش چیست؟ این مدل از هزاران «متخصص» کوچک ساخته شده و در هر لحظه فقط بخشی از آن‌ها فعال‌اند. Strata متخصص‌های پرکاربرد را روی کارت گرافیک نگه می‌دارد و بقیه را بین رم و SSD پخش می‌کند.

طبق README پروژه:
• کارت گرافیک با حداقل ۱۲ گیگ VRAM (انویدیا یا AMD)
• رم ۳۲ گیگ (پیشنهادی ۶۴) و حدود ۸۰ گیگ فضای خالی
• سرعت نوشتن ۵۳ تا ۹۴ توکن بر ثانیه روی RTX 5070
• نصب یک‌کلیکی ویندوز و لینوکس، با API سازگار با OpenAI و Anthropic روی localhost
• مجوز MIT

برداشت من: عددها را سازنده اعلام کرده و نسخه‌های فشرده‌تر، سرعت را با افت دقت معامله می‌کنند؛ پس قبل از اعتماد، روی کار واقعی خودت تستش کن. اما جهت حرکت روشن است: برای کار با داده‌های محرمانه، «مدل قوی روی سیستم خودم» دیگر فقط مخصوص سرورهای گران نیست.

🔗 منبع: github.com/Niko1221/Strata
💬 بحث در HN: news.ycombinator.com/item?id=49953495

اگر کارت ۱۲ گیگی داری، امتحانش کن و نتیجه را برایمان بنویس 👇

#هوش_مصنوعی #مدل_محلی #Qwen #متن_باز
@mrchatgpt_ir