Главные угрозы:
Indirect Prompt Injection, вредоносные инструкции через:
🔘 репозитории с malicious-контентом
🔘 PR с инъекциями
🔘 конфиги:
.cursorrules, CLAUDE.md, copilot-instructions.md🔘 MCP-ответы с вредоносными данными
User Habituation — пользователи привыкают и просто одобряют потенциально опасные действия, не проверяя их.
Обязательные контроли:
1️⃣ Network Egress Controls — блокировать сетевой доступ к произвольным сайтам. Предотвращает exfiltration данных и установку reverse shell.
2️⃣ Block File Writes Outside Workspace — запретить запись за пределами рабочей директории. Защита от persistence через
~/.zshrc, ~/.gitconfig.3️⃣ Block Writes to Config Files — защитить конфиги агентов. Hooks, MCP-конфигурации, skills часто работают вне sandbox.
Рекомендуемые:
🔘 sandbox для всего IDE (включая hooks, MCP, skills)
🔘 microVM / Kata container для изоляции kernel
🔘 secret injection вместо передачи secrets агенту
🔘 lifecycle management — очистка sandbox от накопленных данных
Полезный чек-лист для тех, кто настраивает IDE с ИИ-агентами.
📎 developer.nvidia.com
@neuro_channel