На форуме «Цифровые решения» вчера вечером обсуждали подходы к выбору инфраструктуры для эффективного использования ИИ. Компании начинают переходить от фрагментарных экспериментов к управляемой корпоративной ИИ‑экосистеме, и сейчас остро встает вопрос эффективности и устойчивости ее использования.

В общем, все соглашались вчера, что затраты растут из-за разрозненности аппаратных платформ. Как сказал, Глеб Маркевич, лидер направления ИИ и комплексных решений YADRO, после первых пилотов и экспериментов компаниям необходимо вводить централизованное управление, стремиться к повышению эффективности, контролируемости и прозрачности всего процесса. Для консолидации ресурсов и их более рационального использования, по его словам необходимы:

1️⃣Нативность оборудования для ИИ-нагрузок. На старте работы с ИИ-решениями есть сильный соблазн по максимуму использовать оборудование, не предназначенное для ИИ. А это в конечном счете приводит к росту накладных расходов и снижению эффективности.

2️⃣ Заранее определить требования к платформе. Нужно уже на старте зафиксировать, какие задачи необходимо решить при переходе к промышленной эксплуатации и централизованному контролю, в том числе — определить регуляторные и внутренние требования, связанные с эксплуатацией и безопасностью.

3️⃣ Гетерогенный подход. Надо учитывать открытые стандарты, различные подходы и платформы, но при этом уметь переключаться и использовать ИИ для решения собственных задач.

Впрочем, простого ответа на вопрос, как определить стоимость инфраструктуры, нет, ведь компоненты различаются, требования бизнеса часто меняются по ходу внедрения. По словам Глеба, в YADRO исследуют разные технологии, сравнивают подходы, ускорители, соотносят эффективность западных и восточных моделей. Словом, поиски эталонной меры продолжаются, а по мере этих поисков растет экспертиза компании.

Участники вчерашней дискуссии также отметили, что для развития проектов в сфере ИИ необходимо, чтобы бизнес мог четко ставить задачи, важно уметь формулировать требования и проектировать решения. А без платформ enterprise-уровня решение масштабных задач становится невозможным. И конечно, оптимальным вариантом тут станет развитие технологических партнерств.

@anti_agi