Тренажёр по промпт инъекциям от Lakera

😃 Пора пробовать промпт инъекции руками, чтобы как минимум понять, почему они уже несколько лет остаются одной из главных угроз для LLM-приложений.

🧙‍♂️ Игра бесплатная, от простого игнорирования инструкций до многоуровневых гардрейлов, рекомендую потратить 20–30 минут. Потом и своего агента потестишь!

Заодно можно изучить полезные материалы от Lakera — перспективного стартапа в области AI Security (это я еще мягко высказалась, завидую их росту). Компания занимается защитой GenAI-приложений от prompt injection, jailbreak, утечек данных и других атак на LLM и AI-агентов и тебя научит:

😔 Гайд по Prompt Injection представляет собой разбор основных техник атак и защит. 
😔 Visual Prompt Injection о том, как прятать инструкции прямо в изображениях для мультимодальных моделей. Очень интересные примеры. 
😔 LLM Security Playbook — хороший обзор угроз и подходов к защите AI-систем.

Все!
Пройдешь Гендальфа - пиши, когда начал пользоваться подсказками! 
9️⃣