‏Mistral Large 4
‏میسترال لارج ۴؛ مدل چندوجهیِ متن‌باز با معماری MoE

‏مدل Mistral Large 4 یک مدل چندوجهیِ عمومی با وزن‌های باز است که از معماری دانه‌بندی‌شده‌ی Mixture-of-Experts بهره می‌برد. پارامترهای فعالِ آن ۴۹ میلیارد و کل پارامترها ۱.۰۵ تریلیون است؛ به‌علاوه یک vision encoder با ۱.۶ میلیارد پارامتر دارد.

‏نظر هوش مصنوعی — ⭐ ۸/۱۰
‏🎯 چرا مهمه: ترکیب open-weight بودن با معماری MoE در این مقیاس، گزینه‌ی جدی‌ای برای deploy محلی و fine-tune در اختیار توسعه‌دهنده‌ها می‌گذارد.
‏💡 نکته: فعال بودن فقط ۴۹B پارامتر از ۱.۰۵T کل، یعنی inference نسبت به حجم واقعی مدل بسیار کم‌هزینه‌تر است.
‏👥 برای کی: کسانی که روی inference بهینه، fine-tuning یا pipeline‌های multimodal کار می‌کنند.

‏🔗 https://docs.mistral.ai/models/mistral-large-4-0
‏#ai #LLM #MoE

‏@BenFeed