Сегодня изучал выставку GISEC. На предыдущих конференциях 23 и 24 годов продуктов по защите GenAI-систем, за исключением Robust Intelligence, замечено не было. По-прежнему мейнстрим — это использование AI для всего в классической безопасности: AI-powered SOC, AI Threat Detection, AI Traffic Analysis, whatever AI for security. Тем не менее видно, что защита нового класса ИИ-систем начинает появляться.

Чаще всего встречаются прокси для корпоративного доступа к ChatGPT — таких продуктов я насчитал штук пять от разных вендоров. Все чётко осознают, что сотрудники уже давно используют разные ИИ-тулы, и запрещать их не выйдет, поэтому прокси-инструменты с минимальной защитой становятся commodity. Наиболее продвинутый — у Palo Alto: доработанный Chromium, который может блокировать отправку конфиденциальных корпоративных данных во внешние модели. Также пару дней назад пришла новость о поглощении ProtectAI, так что скоро линейка Palo Alto дополнится red teaming-тулом Recon и решением для runtime-безопасности — Protect AI Layer. В ходе обсуждения в кулуарах была высказана гипотеза, что ProtectAI Recon — это просто платный UX над open-source инструментом Nvidia Garak.

Microsoft активно продвигает Azure Purview для очистки данных в облаке и рассказывает о наличии защитных policy для AI-систем в Azure. Посмотреть демо не удалось, но подозреваю, что это близко к AWS Bedrock Guardrails.

Местный GCC-вендор Anxinsec полгода назад запустил продукт по шифрованию моделей, анализу датасетов и выявлению смещений — по функциям напоминает HiddenLayer. Об успехах говорить пока рано, но компания выделяет этот продукт как флагманский на своём стенде.

CISCO убрали Robust Intelligence как у дистрибьютора Spire, так и на своём стенде. Тем не менее сейлы поделились, что продукт сейчас активно перерабатывается после покупки и готовится к повторному запуску под названием CISCO AI Validation.

Из известных продуктов были AIShield от Bosch и Zenity — оба представлены на стенде локального дистрибьютора Forcespot. Это интересная компания: они создали бизнес на классической безопасности, но сейчас направили все инвестиции на защиту GenAI. В портфеле уже 5 продуктов. Пока они уникальны в своей ставке на AI Security, так как крупные дистрибьюторы — такие как CPX, Spire, Help AG и CyberKnight — пока с осторожностью смотрят на этот несформировавшийся рынок. Приложил к посту фото с их стенда.

Отдельно добавлю: для меня конференция, в отличие от Gitex, получилась более фокусной и интересной по наполнению. Был рад встретиться с коллегами из наших компаний, кто также изучает новые ИБ-продукты, пересёкся с другими участниками OWASP и снова увидел роскошные стенды Positive и Kaspersky.