اگه بچه مایه دارید و کارت گرافیک 5070 یا 4080 دارید این پروژه رو حتما ذخیره کن یه نصب‌کننده اختصاصی و راه‌انداز آماده برای اجرای Qwen3.8-27B روی کارت‌های NVIDIA معمولی هستش هم بهتون لوکال چت می‌ده هم API برای استفاده توی بقیه برنامه ها

کاربرا روی 5070ti تونستن تا 100 توکن بر ثانیه بگیرن
البته اگه مایه دار نیستی و قشر متوسط به بالایی و 4060 داری تا 15 توکن بر ثانیه خروجی می‌تونی بگیری که بد نیست

github.com/MiaAI-Lab/Qwen3.8-27B-16gb-NVIDIA-GPUs-one-click-install


@Linuxiz