Cloud ru выложил в опенсорс Guardrails Filter — инструмент для защиты данных при работе с LLM

Работает как слой между приложением и моделью: перед отправкой запроса маскирует персональные данные, API-ключи, пароли и другую конфиденциальную информацию синтетическими значениями, а после ответа модели восстанавливает оригиналы.

Вы можете развернуть Guardrails Filter внутри своей инфраструктуры и самостоятельно управлять сервисом через личный кабинет.

Что внутри:
— стандартные и кастомные правила детекции (например, под внутренние ID, номера договоров)
— логирование событий безопасности
— тестовый режим Ghost Mode, который позволяет проверить работу сервиса до включения защиты

На публичном бенчмарке pii-bench инструмент показал 93,1 по F1 и 99,9% точности срабатываний.

GitVerse | GitHub

#news #ai #ml