Чем глубже ИИ встраивается в бизнес-процессы, тем больше данных проходит через LLM. А значит, появляется новый класс рисков: от внедрения скрытых инструкций до утечек через ответы и действия ИИ-агентов.
В AIaaS запустили в тестовом режиме ИИ-файрвол — отдельный защитный модуль между корпоративными приложениями и языковыми моделями.
Что он контролирует:
✔️ скрытые инструкции и попытки управлять моделью через входящие данные
✔️ передачу конфиденциальной информации во внешние LLM
✔️ конфиденциальные и персональные данные в ответах моделей
✔️ действия ИИ-агентов и обращения к инструментам
✔️ документы и данные, загружаемые в RAG, до их попадания в поисковый индекс
Фильтрация работает на двух уровнях: быстрый классификатор отсеивает очевидные угрозы, а модель дополнительно анализирует спорные обращения по смыслу.
🛡 ИИ-файрвол доступен в панели управления AIaaS как подключаемый модуль.
Это ещё один шаг к корпоративному ИИ, который можно внедрять не «на свой страх и риск», а с контролем того, какие данные и действия проходят через LLM.
🔷 Подробнее