Это использование сотрудниками несанкционированных или неутвержденных компанией AI-приложений для решения рабочих задач. Такие инструменты часто остаются вне зоны контроля IT-отделов и несут значительные риски для бизнеса.
В чем проблема? Исследование Strategy Insights, охватившее 3320 директоров из большинства стран мира, показало, что:
1️⃣ 35% компаний сталкиваются с серьезными трудностями в мониторинге Shadow AI.
2️⃣ Особенно сложно контролировать такие инструменты, когда они взаимодействуют с устаревшими корпоративными системами.
Почему это опасно?
1️⃣ Утечка данных:
- В Samsung сотрудники случайно передали конфиденциальные данные (исходный код и заметки встреч) через ChatGPT. Это вынудило компанию полностью запретить использование генеративного AI.
- По данным RiverSafe, 20% британских компаний уже столкнулись с утечками данных из-за использования Generative AI.
2️⃣ Киберугрозы:
- Использование непроверенных AI-инструментов увеличивает риск взломов и распространения вредоносного ПО.
- Даже IT-специалисты: 73% сотрудников в области кибербезопасности признали, что использовали неутвержденные AI-приложения (опрос Next DLP).
3️⃣ Регуляторные штрафы:
- Компании из высокорегулируемых отраслей (здравоохранение, финансы) особенно уязвимы перед проверками и могут понести значительные штрафы за несоблюдение стандартов безопасности.
Как компании решают проблему?
🔸 Honey tokens: “метки-приманки” помогают отслеживать утечки данных в AI-системах.
🔸 Обучение сотрудников: 48% опрошенных уверены, что сотрудники должны лучше понимать риски использования AI.
🔸 Создание регуляций: 67% компаний отметили важность внедрения четких и гибких правил управления AI.
🗣️ Йохан Остхейзен из Strategy Insights подчеркивает: "Организациям необходимо выстроить эффективную систему мониторинга, которая отслеживает использование AI на всех уровнях, не нарушая при этом баланс между безопасностью и конфиденциальностью сотрудников".
Почему это важно?
В условиях стремительного развития AI-технологий компании не могут игнорировать Shadow AI. Без четкой стратегии это превращается в "черный ящик", способный спровоцировать утечки, штрафы и подорвать репутацию.
А как ваша компания работает с Generative AI? Поделитесь опытом в комментариях!
#новости