Prompt Injection — полный гид по 14 классам атак
#promptinjection #llm #owasp #security

14 постов. Каждый класс атаки разобран: механизм, реальные кейсы, защита, моё мнение. От классического "Ignore previous instructions" до невидимых Unicode-payload-ов.

Написать эту серию заняло значительное время — ресерч, fact-checking, верификация каждого CVE и каждой цифры. Если было полезно, буду рад репосту в ваши каналы и чаты. Это не все виды атак, которые существуют, а только те что знаю я, смог сам разобраться и вам объяснить.

Все посты серии:

1. Direct Prompt Injection — "дедушка" всех LLM-атак
2. Indirect Prompt Injection — невидимый удар
3. EchoLeak — zero-click атака на AI через email
4. Operator Web Injection — отравление RAG и веба
5. Inception — документ как оружие
6. Goal-Lock Drift — что если агент тихо меняет цели?
7. Context Switching — "Ignore Previous Instructions" и его потомки
8. Structured Format Injection — 15+ способов спрятать payload в JSON/XML/YAML
9. Context Manipulation — социальная инженерия для AI
10. RAG Pipeline Attacks — 24 техники на каждый уровень пайплайна
11. Tool & Function Calling — когда prompt injection становится RCE
12. Special Token Injection — инъекция на уровне токенизатора
13. Delimiter Attacks — выдуманная "песочница"
14. Invisible Token Smuggling — payload, который не видно

И это только Prompt Injection — одна категория из шести в моей базе знаний. Jailbreaks, Training-time, Inference, Multimodal, Agentic — впереди.

🌚 @poxek_ai