Microsoft представила Maia 300 и планирует гигаваттные развёртывания

🚀 Microsoft представила Maia 300 и с 2027 года планирует расширять семейство собственных ускорителей до развёртываний общей мощностью в несколько гигаватт. Maia должна стать основной платформой обработки запросов к ИИ-моделям в продуктах компании. Предыдущая Maia 200 уже обслуживает Copilot.

🧠 В новом чипе 288 ГБ HBM4 вместо 216 ГБ HBM3e, а пропускная способность памяти выросла с 7 до 18 ТБ/с, примерно в 2,6 раза. Пиковые вычисления FP4 прибавили около 36%. Вместо монолитного 3-нм кристалла используется набор чиплетов с вычислительной частью на TSMC N2P; тепловой пакет вырос с 750 до 950 Вт.

⚙️ Такая пропорция важна для длинных диалогов и многошаговых агентов: при генерации ответа модель часто ждёт данные из памяти. Программа размещает их ближе к нужным вычислительным блокам и управляет передачей. Улучшенный MXFP4 уменьшает объём данных для вычислений и хранения KV-кэша.

🏗 В стойке теперь 96 ускорителей вместо 48, суммарно 27,6 ТБ HBM при расчётной мощности стойки 167 кВт. Microsoft заявляет до семикратного роста выдачи токенов со стойки относительно Maia 200. Ethernet-сеть объединяет до 12 288 ускорителей против 6 144 раньше.

⚠️ Ожидаемые +40% токенов на мегаватт относительно ведущих GPU-систем пока остаются прогнозом Microsoft: в анонсе не названы сравниваемые GPU, модели и условия проверки.
Внедрение Maia 300 начнётся в 2027 году.

💼 Для пользователей Azure это ставка на большее число одновременных запросов при ограниченной мощности дата-центра.

📎 Архитектура Maia 300 · Характеристики Maia 200

#Microsoft #Azure #Maia
———
@tsingular