🌐🌐 65 000 узлов и больше: Google Kubernetes Engine готов к моделям ИИ с триллионом параметров.

Google хвастается расширением возможностей Google Kubernetes Engine (GKE), который теперь поддерживает кластеры до 65 000 узлов, позволяя запускать сверхмасштабные модели искусственного интеллекта с триллионами параметров. Это достижение ставит GKE в лидеры по производительности и масштабируемости среди облачных платформ, предоставляя компаниям возможность управлять крупными вычислительными задачами, особенно в сфере генеративного ИИ.

Эти нововведения стали возможны благодаря техническим улучшениям, включая переход на систему хранения данных Spanner вместо etcd, что обеспечивает большую стабильность и надёжность в управлении столь крупными кластерами. Внедрение Cloud TPU v5e с несколькими ускорителями на узел позволяет поддерживать более 250 000 ускорителей в одном кластере, что делает GKE эффективным инструментом для задач инференса, обучения и исследования.

📎 Читать в оригинале