H100 и H100 NVL: выбираем под свои задачи

⚖️ Главные отличия H100 NVL:
• 94 ГБ памяти HBM3 (против 80 ГБ HBM2e)
• Пропускная способность 4 ТБ/с (вдвое выше)
• Тип видеопамяти: HBM3 (новое поколение)

⚙️ Эти параметры выходят на первый план, когда модель требует больше 80 ГБ, вы работаете с длинным контекстом или используете связки карт. Например, GLM-5 (754B) или QVQ-Max (397B) в полной точности — как раз такие задачи.

📲 Подробнее в слайдах.

➡️ Запустить сервер с NVIDIA H100 NVL