Microsoft представила чип Maia 300: до 7 раз больше токенов

Microsoft анонсировала Maia 300 — третье поколение собственных ИИ-чипов, рассчитанное на инференс и работу с длинным контекстом, низкой задержкой и ИИ-агентами. По заявлению компании, новинка сможет выдавать на 40% больше токенов при том же энергопотреблении, а в конфигурации из 96 ускорителей — до 7 раз больше токенов на стойку, чем Maia 200. Внедрение в рабочую инфраструктуру начнётся в 2027 году.

@forgeeks | @forgeeksflash