Positive Technologies разработала LLM Firewall — новый модуль в составе решения для защиты веба PT Application Firewall
Он защищает корпоративные ИИ-боты, виртуальные ассистенты и другие сервисы на основе больших языковых моделей (LLM)
— Модуль анализирует запросы к LLM и их ответы, выявляя признаки кибератак, отравления промтов, попытки утечки конфиденциальной информации и нарушения установленных правил безопасности
Еще одна задача модуля — контроль информации, которую пользователи передают ИИ-агенту в своих запросах:
LLM Firewall выявляет персональные данные, пароли, ключи доступа и другие секреты, а также токсичный, запрещенный и потенциально опасный контент
🧑💻 Этичный хакер