🇺🇸 Чипы ИИ. Собственные чипы ИТ-гигантов. США

Google, по слухам, разрабатывает чип для повышения эффективности Gemini AI

Речь идет о серверном чипе для модели Gemini AI, что является очередным свидетельством в пользу того, что крупные разработчики стремятся создавать собственные микросхемы, оптимизированные под свои системы, поскольку конкуренция за вычислительные мощности продолжает расти.

Как сообщает The Information, Frozen v2 могут начать использовать в 2028 году. Особенность чипа – он не содержит тензорных процессоров Google TPU и предназначен для уменьшения объемов данных, передаваемых в системе с целью повышения скорости отклика. Для этого нужно «зашить» часть архитектуры модели Gemini непосредственно в архитектуру чипа. Причем без «замораживания» весов моделей.

Такой подход, как ожидается, позволит обрабатывать в 6-10 раз больше токенов на единицу потребляемой энергии по сравнению с актуальными TPU. Риски очевидны – архитектура, привязанная к «кремнию», несет риски быстрого устаревания. Пока что слухи не подтверждены официально.

Другие примеры проприетарных чипов ИИ: Trainium от Amazon Web Services; недавно представленный Jalapeño от Open AI (разработан совместно с Broadcom); Anthropic находится на ранней стадии переговоров с Samsung о производстве собственного ИИ-чипа, а пока что полагается на чужие чипы - Trainium, Google TPU и Nvidia; Microsoft разрабатывает Maia 200 для ИИ-инференса; Tesla работает над D1 / Dojo для обучения; Gaudi от Intel, который, впрочем, компания готова и продавать сторонним заказчикам; Apple работает над Baltra; Hanguang 800 и другие от Alibaba; Kunlun M100 от Baidu и еще ряд других. ||

✓ RUSmicro в Telegram l на MForum | Max