Компании переходят от пилотных проектов к промышленным ИИ-сервисам, и важнейшими вопросами остаются построение соответствующей инфраструктуры, эффективное использование вычислительных ресурсов и управление ИИ-нагрузками.
Одной из ключевых премьер YADRO на форуме стал обновленный ИИ-сервер G4208P G3 с системой жидкостного охлаждения. Решение рассчитано на длительные ресурсоемкие вычисления — от обучения и инференса ИИ-моделей до инженерного моделирования и научных расчетов. Жидкостное охлаждение отводит тепло непосредственно от процессоров и графических ускорителей, обеспечивая стабильный температурный режим при высокой нагрузке.
Тему влияния ИИ на развитие киберугроз также затронул генеральный директор ИКС Безопасность Александр Ковалевский:
ИИ расширил поверхность атак на внутренний периметр: появились риски, связанные с самим запросом к модели или ее ответом. Наш новый продукт Гарда AI Security выявляет передачу конфиденциальной информации и персональных данных, обход правил безопасности, запрещенные темы и нежелательный контент.
Собственная сессия ИКС Холдинга «От ускорителя к ИИ-сервису» под модерацией коммерческого директора YADRO Александра Бакулина была посвящена практическим вопросам построения корпоративной ИИ-инфраструктуры. Участники обсудили, как организовать доступ к вычислительным ресурсам и повысить эффективность их использования.
Отдельными темами стали выбор и использование разных типов и поколений ускорителей, безопасная работа ИИ с корпоративными данными, а также гибридный подход — сочетание собственной инфраструктуры с ресурсами и сервисами облачных провайдеров.