⭕ مدل های زبانی بزرگ (LLM) را در سیستم های production پیادهسازی میکنند، اما با آن ها مانند کتابخانه های معمولی رفتار میشود API را متصل کنید و فراموش کنید. مشکل اینجاست که مدل زبانی دستورات موجود در ورودی کاربر را اجرا میکند، کد تولید می نماید و به پایگاه های داده دسترسی پیدا میکند. اگر ویژگی های خاص این سیستم ها در نظر گرفته نشود، ممکن است منجر به نشت داده ها یا compromise کل برنامه شود. OWASP 10 vulnerabilitie بحرانی در برنامه های مبتنی بر LLM را شناسایی کرده است در ادامه هر کدام را با مثال های حمله و روش های حفاظت بررسی میکنیم.
LLM01: Prompt Injection
LLM02: Sensitive Information Disclosure
LLM03: Supply Chain Vulnerabilities
LLM04: Data and Model Poisoning
LLM05: Improper Output Handling
LLM06: Excessive Agency
LLM07: System Prompt Leakage
LLM08: Vector and Embedding Weaknesses
LLM09: Misinformation
LLM10: Unbounded Consumption
➖➖➖➖➖➖➖
🆔 @TryHackBox
🆔 @TryHackBoxOfficial
🆔 @TryHackBoxStory
🆔 @RadioZeroPod
#هوش_مصنوعی #امنیت_سایبری