Чтобы ИИ-инновации не стали уязвимостью

Искусственный интеллект активно встраивается в рабочие процессы: помогает в разработке, обслуживает сотрудников через чат‑боты, интегрируется с сервис‑деском и базами знаний. Это не только ускоряет решение рутинных задач, но также создает новые киберриски.

Обсуждаем вместе с нашим экспертом Артемом Мичалиным, руководителем управления развития ИБ-решений, как обезопасить ИТ-инфраструктуру от рисков, связанных с использованием ИИ.

Какие угрозы может создавать ИИ?

• Дополнительные точки входа для злоумышленников. Интеграция ИИ через API и внешние сервисы расширяет периметр атаки.
• Теневой ИИ (Shadow AI). По оценкам отраслевых исследований, до 90% сотрудников используют личные аккаунты генеративного ИИ для рабочих задач без ведома ИТ‑отделов. При этом 77% делятся с ИИ‑инструментами конфиденциальными данными компании.
• Уязвимости в ИИ‑системах. Нейросети и ИИ-сервисы нередко внедряются без должного внимания к принципам ИБ. В результате могут возникать слабые места в системе, которые становятся векторами атак на корпоративную инфраструктуру.

Как защититься?

Защита требует комплексного управления жизненным циклом ИИ в компании.

Стоит начать с инвентаризации — выявить и классифицировать все ИИ‑решения в контуре — от облачных сервисов до экспериментальных проектов. Особое внимание при этом следует уделить теневому ИИ. Сотрудники нередко используют публичные платформы без контроля ИТ‑отдела, что повышает риск утечек данных.

Следующим шагом должен быть мониторинг ИИ‑среды. Необходимо отслеживать API‑вызовы, вести журналы операций, анализировать поведение моделей и результаты их работы. Чтобы снизить риск утечек данных, следует использовать DLP‑инструменты для ИИ и строго регламентировать доступ моделей к внутренним системам.

Важно своевременно актуализировать политику безопасности — закрепить правила использования моделей, требования к защите данных и критерии выбора поставщиков ИИ.

Вся ИИ-инфраструктура должна быть включена в систему управления доступом с применением многофакторной аутентификации, сегментации сети и принципа минимальных привилегий. Также стоит регулярно проверять цепочки поставок — анализировать безопасность сторонних моделей и библиотек, чтобы минимизировать риски внедрения вредоносного кода и некорректные данные для обучения.

Инциденты, связанные с ИИ-угрозами, требуют отдельного планирования. Нужно определить, как быстро отключить подозрительные компоненты, восстановить корректную модель и расследовать инцидент с учетом особенностей алгоритмического поведения.

При этом нельзя полагаться только на технические ограничения, поэтому дополнительно важно обучать сотрудников грамотному взаимодействию с ИИ. Это позволяет снизить число непреднамеренных нарушений и сформировать культуру безопасной работы с ИИ.

Полностью исключить риски невозможно, но вполне реально сделать их управляемыми. И те компании, которые вовремя адаптируют свои процессы безопасности, получат возможность использовать ИИ как конкурентное преимущество без избыточного роста угроз.

#мнение_эксперта

@syssoftru – эксперт в мире программного обеспечения