В опенсорс стал доступен Guardrails Filter — инструмент для защиты чувствительных данных при работе с большими языковыми моделями.
➡️ Теперь можно бесплатно развернуть инструмент в собственной инфраструктуре и использовать с ИИ-моделями любых провайдеров.
Что умеет Guardrails Filter? Работая между приложением и ИИ-моделью, сервис:
▶️проверяет запросы пользователей и ответы модели на наличие чувствительных данных;
▶️заменяет персональные данные, API-ключи, пароли и другую конфиденциальную информацию синтетическими значениями;
▶️восстанавливает исходные данные после получения ответа модели.
В опенсорс-версии доступны:
▶️готовые правила обнаружения чувствительных данных;
▶️возможность создавать собственные правила — например, для номеров договоров, идентификаторов клиентов или внутренних обозначений проектов;
▶️журналирование событий безопасности;
▶️тестовый режим Ghost Mode для проверки работы сервиса до включения защиты.
Guardrails Filter уже помогает защищать запросы к Evolution Foundation Models в AI Factory и используется в пилотных и коммерческих проектах клиентов Cloud․ru.
Оцените Guardrails Filter в работе:
▶️GitVerse: Standalone | ExtProc
▶️GitHub: Standalone | ExtProc