📕 عنوان کتاب 📕:
تهدیدهای امنیتی مختص هوش مصنوعی و مدل‌های زبانی بزرگ
(راهکارهای دفاعی و بهترین شیوه‌ها برای ساخت سامانه‌های هوش مصنوعی ایمن، مطمئن و قابل اعتماد)

😎توضیح ِ مترجم بعدازین کتاب:
بعضی تهدیدات هوش مصنوعی و LLM ها، از ساختار ذاتی آنها منتج می‌شود!
در برخی اوقات همان نقاط قوتی که مدل‌های بزرگ زبانی را ممتاز کرده، از طرف مهاجمان بعنوان آسیب‌پذیری محسوب شده باعث تسخیر آنها می‌شود!

من، همیی الانه می توانم به داده‌های آموزشی مدل شما، داده‌های مسموم خودم را آنچُنان تزریق کنم که، مدل شما
نتایجِ دلخواهم را بشما نمایش بدهد

بله؟
می‌شود؟
بَلَه که می‌شود!
#ماهیّت و #معماری آنها، دست منِ نفوذگر را باز می‌گذارد!
(منِ نوعی را عرض می‌کنم)

در سال‌های اخیر نگرانی پژوهشگران از "مسموم‌سازی داده‌های آموزشی" تا حدی به "مسموم‌سازی منابعی که مدل در زمان اجرا به آن‌ها مراجعه می‌کند" (مثل RAG، پایگاه‌های دانش و حافظه عامل‌ها) معطوف شدَه ؟ چرا؟ چون مهاجم می‌تواند بدون دسترسی به فرایند آموزش، اطلاعات نادرست را وارد منابع مورد استفاده مدل کند

#DataPoisoning ☠
#ModelStealing
#OutputManipulation
@toobabigdatascience