🔐کار ارزشمند دو نفر از اهالی صنعتی #شریف اکتبر۲۰۲۶
🌿محمدرضا میر‌باقری
🌿امیر‌مهدی صادق‌زاده
#امنیت_یادگیری_ماشین (MLSecOps#)

عنوان مقاله: TRAP؛ کاوشی در آسیب‌پذیری مدل‌های زبانی بزرگ با کمک یادگیری تقویتی و هدایت مبتنی بر درخت‌ها برای جیلبریک خودکار اکتبر ۲۰۲۶.
⭕️در روش TRAP، انتخاب راهبرد حمله از ساخت متن پرامپت جدا می‌شود. این روش سه مفهوم را از یکدیگر تفکیک می‌کند:
■راهبرد (Strategy): هدف یا شگرد اصلی حمله را مشخص می‌کند.
■قالب (Template): چارچوبی متنی است که مستقل از هدف نهایی طراحی شده و برای بیان شگرد حمله به کار می‌رود.
■پرامپت (Prompt): متن نهایی و مشخصی است که با توجه به هدف موردنظر ساخته می‌شود و به مدل زبانی هدف ارسال می‌گردد.
#ML
#LLMs
@toobabigdatascience