NGFW не обнаружил обращений к ChatGPT. Значит ли это, что в компании нет Shadow AI? Нет.

Сетевой шлюз не видит:
🔹 локальную модель на ноутбуке, ведь внешнего трафика у неё нет;
🔹 ИИ-агента на локальной модели, который ходит только во внутренние системы;
🔹 расширение браузера или IDE, которое обращается к модели через домен разработчика, а не через домен из категории «генеративный ИИ»;
🔹 личный смартфон сотрудника на 4G, поскольку его трафик идет мимо корпоративной сети;
🔹 API-ключ, спрятанный в скрипте или в CI/CD.

Под описание Shadow AI попадают разные ситуации: от сотрудника, который вставил таблицу в чат, до агента с доступом к GitLab, CRM и боевой базе. Одним способом их не выявить и не закрыть.

Если вы как безопасник отвечаете за это, то лучше всего начать с трёх вопросов бизнесу:
🔹 Какие данные для нас действительно критичны?
🔹 Что будет, если они окажутся у поставщика модели? Google, OpenAI, Сбербанка или Deepseek..
🔹 Что дороже: запретить ИИ или разрешить его под контролем, например, с маскированием?

И только потом: бороться за защиту: включать на NGFW категорию генеративного ИИ в режиме наблюдения, проверить расширения браузеров и локальные модели на устройствах, поискать API-ключи в репозиториях и составить реестр сервисов, которыми уже пользуются.

В новой статье разделил Shadow AI на пять уровней и написал, что можно сделать за ближайший квартал.

@safebdv
#CISO #AISecurity #NGFW