خبر نهچندان خوب درباره مدل جدید DeepSeek v4.1 Flash: حجم وزنهای این غول در فرمت FP8 به ۵۱۰ گیگابایت رسیده!
با یه حساب سرانگشتی برای اجرا:
- کوانت ۴ بیتی: حدود ۲۵۵ گیگابایت
- کوانت ۳ بیتی: حدود ۱۹۱ گیگابایت
- کوانت ۱ بیتی: حدود ۶۴ گیگابایت
خلاصه که اصلاً خبر خوبی برای لوکالبازها نیست؛ برای ران کردن فشردهترین نسخهش هم سیستمهای خونگی کم میارن و به یک فارم کارت گرافیک یا سرور اختصاصی نیازه!
https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash
@DevTwitter | <Legendary Coder/>
Post #13170
6.79K
- 👍 35
- 👎 7
- ❤ 4