Защита памяти AI-агентов от отравления

🔹 OWASP/www-project-agent-memory-guard
⭐ 165 звёзд · Python

Библиотека перехватывает операции записи и чтения в память AI-агентов, блокируя атаки memory poisoning на этапе выполнения. Интегрируется с LangChain, OpenAI Agents SDK, AutoGen, mem0 и CrewAI, работает локально без внешних API-вызовов.

Детектирует четыре категории атак: инъекции в промпты, модификацию защищённых ключей (через SHA-256 базовые значения), утечку чувствительных данных и аномалии размера. Медианная задержка — 59 микросекунд, на тестовом наборе из 55 payload-ов даёт 92,5% recall и 100% precision.

Политики описываются в YAML с действиями allow, redact, quarantine, block. Проект-инкубатор OWASP, упомянут в MITRE ATLAS как реализация контролей защиты памяти.

репозиторий

Полезная Репа 🛡️