🖥🧱 Бизнес инвестирует в ИИ-инфраструктуру

💿 Крупный российский маркетплейс рассматривает закупку серверов на базе платформы Nvidia HGX с восемью картами B300 SXM — одних из самых мощных GPU-систем на рынке.

🔥Решение позволит запускать и обучать крупные ИИ-модели, масштабируя ключевые сервисы: чат-боты, рекомендации, антифрод и аналитику.

🤖Как отмечает руководитель направления ИТ-инфраструктуры К2Тех Алексей Зотов, реализацию таких проектов осложняют глобальный дефицит GPU и вендорские ограничения на поставки в ряд стран. Компаниям, которые планируют развивать подобные системы, стоит принимать решение о закупке заранее. Сроки поставки серверов могут растягиваться на месяцы.

🛠Важен выбор программной платформы: от неё зависит, насколько эффективно будет использоваться железо. По данным глобальных исследований, реальная загрузка GPU в большинстве организаций не превышает 30–70% — и дело, как правило, не в железе. Грамотный программный стек позволяет объединять карты в кластер, делить их между задачами и повышать утилизацию.

📠 Читайте полный материал.