#GitVerseПолезное

Исходный код Guardrails Filter на GitVerse 🖥

Коллеги из Cloud.ru выложили к нам Guardrails Filter — обратный прокси, который при работе с внешними LLM-моделями убирает чувствительные данные из запросов: персональные данные, API-ключи, пароли, а также другую конфиденциальную информацию.

Перед отправкой запроса в языковую модель сервис автоматически заменяет реальные данные синтетическими значениями. После получения ответа Guardrails Filter восстанавливает исходные данные.

В бенчмарке Cloud.ru точность срабатывания инструмента составила 99,9%. 🔥

Найти Guardrails Filter можно тут (Standalone) и тут (ExtProc). ⛓️‍💥