Исследователи из AI Security Lab Герман Кочнев @germKo и Иван Александров @ivanich_spb опубликовали вводный курс по секьюрити на платформе Stepik без кода и с большим количеством практики.
Курс CTF-чемпионат, где студент руками проходит путь от простых prompt injection и jailbreak до разведки и взлома агентских систем.
Что внутри:
⭐Prompt Injection и обход инструкций
Jailbreak-техники и guardrails
⭐ Indirect Prompt Injection через письма, документы и веб
⭐атаки на агентов и отравление RAG
⭐защита: от простых фильтров до архитектурных решений
Формат курса - CTF-задачи: нужно сломать систему, получить флаг, разобрать, почему атака сработала и как это чинить. Есть демо-доступ.
➡️ Забирай курс с автоскидкой
Учимся ломать ИИ-приложения так, чтобы потом проектировать их безопаснее