🧠 OWASP взялись за безопасность памяти AI-агентов.

OWASP запустили Agent Memory Guard, проект посвящённый безопасности памяти AI-агентов.

Большинство memory-систем работают примерно одинаково:
контекст → embedding → векторная база данных → извлечение → обратная подача в prompt.

Безопасность в таком подходе почти отсутствует.

Например:
вредоносный документ → загрузка через RAG → преобразование в embedding → сохранение в памяти → извлечение в следующей сессии → агент начинает воспринимать вредоносную инструкцию как доверенный исторический контекст. Prompt injection внезапно становится постоянным. Один удачный payload способен пережить перезапуск процесса и начать влиять на дальнейшее reasoning агента.

🔬 Решение OWASP

Проект пока больше похож на модель угроз + набор практик безопасности, чем на готовый продукт. Но внутри уже есть довольно интересная систематизация рисков.

1⃣ Отравление памяти

Атакующий загрязняет слой памяти.

Например:
скрытые инструкции попадают в память поиска и позже начинают влиять на принятие решений агентом.

OWASP предлагают вводить:
🔹 оценку доверия к источникам
🔹 проверку данных перед сохранением
🔹 метаданные происхождения информации
🔹 классификацию содержимого перед записью

2⃣ Изоляция памяти

Для мультиагентных систем появляется другая проблема: заражение между агентами.

Если несколько агентов используют общее хранилище памяти, компрометация одного агента начинает влиять на остальных.

OWASP предлагают:
🔹 изоляцию пространств памяти
🔹 ограничение доступа к контексту
🔹 отдельные границы памяти для каждого агента
🔹 сегментацию памяти по принципу Zero Trust

3⃣ Управление жизненным циклом памяти

Самая практичная часть проекта. OWASP отдельно подчёркивают:
память не должна жить вечно.

Рекомендуются:
🔹 время жизни записей (TTL)
🔹 автоматическое устаревание памяти
🔹 снижение уровня доверия со временем
🔹 механизмы отзыва контекста
🔹 периодическая повторная проверка

🔗 GitHub: https://github.com/OWASP/www-project-agent-memory-guard

Stay secure and read SecureTechTalks 📚

#кибербезопасность #AI #LLM #OWASP #AgenticAI #PromptInjection #AppSec #CyberSecurity #AIsecurity #SecureTechTalks