مایکروسافت بالاخره مدل پایهی خودش را رو کرد 👀
شرکت مایکروسافت اعلام کرد پیشآموزش مدل MAI-Base-2 تمام شده؛ مدلی از نوع ترکیب خبرگان (MoE) با ۲٫۸ تریلیون پارامتر کل و ۸۰ میلیارد پارامتر فعال برای هر توکن.
آموزش آن حدود ۳۸ روز روی ۱۶ هزار پردازندهی GB200 طول کشیده و دادهی آن ۵۰ تریلیون توکن بوده، آن هم بدون تقطیر از مدلهای دیگر.
ادعای اصلی مایکروسافت این است که بازدهی محاسباتی پیشآموزش ۴ تا ۱۲ برابر بهتر از مدل پایهی DeepSeek-V4-Pro است. البته این عدد از قانونهای مقیاسگذاری برآورد شده، نه مقایسهی مستقیم.
فعلاً مدل وارد پسآموزش شده و عمومی نیست؛ قرار است وزنهای آن از طریق Foundry به شریکهای مورد اعتماد داده شود. نسخهی کامل و تحلیل این خبر را در مقالهی سایت بخوانید 👇
برای داغترین اخبار هوش مصنوعی، ما رو دنبال کنید 👇
📄 نسخهٔ کامل مقاله در سایت
➖➖➖➖➖
@MrChatGPT_IR
Post #6476
135
