شرکت فرانسوی Mistral از مدل Large 4 (با نام مستعار Le Chonk) رونمایی کرد. این مدل ۱.۰۵ تریلیون پارامتر داره، اما به لطف معماری MoE، در هر اجرا فقط ۵۰ میلیارد پارامترش فعال می‌شه. یعنی هوش یک مدل ۱ تریلیونی، با سرعت و هزینه‌ی یک مدل ۵۰ میلیاردی!
💡 چرا مهمه؟
🔹 وزن باز (Open-Weight) و امنیت سایبری: وزن‌ها قراره تا آخر ماه منتشر بشه. این یعنی خداحافظی با "Refusal" مدل‌های بسته؛ چون می‌تونید مدل رو روی سرور خودتون ببرید و بدون فیلترهای امنیتی، آسیب‌پذیری‌ها رو تست کنید.
🔹 حاکمیت داده: آموزش روی ۳۸۰۰ پردازنده‌ی Blackwell در اروپا برای رعایت قوانین سخت‌گیرانه‌ی داده.
🔹 هزینه نهایی: قیمت توکن ارزون، اما مدل کمی پرحرفه و ممکنه هزینه‌ی تمام‌شده‌ی هر تسک رو بالا ببره.
🔍 وضعیت:
در بنچمارک‌های مستقل هنوز کمی از رقبای چینی عقب‌تره، اما پروسه‌ی یادگیری تقویتی (RL) ادامه داره.
🔗 منبع: Mistral Official Blog
📌مرجع تخصصی هوش مصنوعی و علم داده
❇️ سایت | بله | تلگرام | اینستاگرام