Google разрабатывает новый чип специально для запуска Gemini
Дефицит вычислительных мощностей настолько серьёзный, что Google Cloud отказывается от сделок с клиентами.
И поэтому Google разрабатывает новый чип Frozen v2.
Идея принадлежит Джеффу Дину(один из ключевых архитекторов Google): встраивать веса и архитектуру Gemini напрямую в кремний.
В итоге рассчитывают, что в 6–10 раз будет выше эффективность по сравнению с новыми TPU именно на инференсе.
Чип планируют развернуть уже в 2028 году.
В долгосрочной перспективе это должно сильно снизить стоимость токена и позволить Google обслуживать больше клиентов без безумного роста дата-центров.
Post #13221
2.23K