🛡 Большая подборка по безопасности AI-агентов и их skills
На GitHub появился репозиторий Awesome Agent Skills Security - коллекция исследований, стандартов и инструментов по защите агентов, которые работают с внешними tools, plugins и skills.
Внутри собраны материалы по:
- prompt injection через инструменты;
- poisoning и supply-chain атакам;
- утечкам данных и чрезмерным правам;
- sandboxing и runtime monitoring;
- red teaming и benchmarks;
- OWASP, MITRE ATLAS, NIST и IETF-стандартам для агентных систем.
Особенно полезно тем, кто уже строит MCP/agent-инфраструктуру: список хорошо показывает, насколько сильно поверхность атаки выросла после того, как модели получили доступ к файлам, API и реальным действиям.
https://github.com/LLMSecurity/awesome-agent-skills-security
Post #5876
1.14K

- ❤ 4
- 👍 2
- 🥰 1