📌 حملات AI و LLM
01 prompt injection
تزریق prompt: دستورالعمل های مخفی را طوری نشان میدهد که مدل ورودی شما را اجرا کند. مدل نمی تواند تشخیص دهد فرمان های شما با دستورهای توسعه دهنده یکی است یا نه.
02 jailbreaking
ا ◾: Jailbreaking: مدل را طوری وادار می کند از «قوانین خودش» خارج شود و نقش را خلاف محدودیتها اجرا کند.
03 token smuggling
ا◾ : Token smuggling: کلمات/عبارات مسدودشده را با ترفند از فیلتر رد میکند.
04 data extraction
استخراج داده: دادههای خصوصی آموزشی را دوباره بیرون می کشد.
05 prompt leaking
ا ◾: Prompt leaking: مدل را فریب می دهد تا دستورالعمل های مخفی خود را افشا کند.
🔥 اولین کانال فارسی زبان در AI Security .
@TryHackBox
@RadioZeroPod
@AiTHB
@TryHackBoxOfficial
