مدل‌های زبانی مثل GPT یا Gemini با میلیاردها جمله آموزش دیدن. اما یه نکته‌ی مهم این وسط هست:
اونا فقط «یاد نمی‌گیرن»، بلکه چیزهایی رو هم به خاطر می‌سپارن! 😳
گاهی اطلاعات حساس یا الگوهای ناخواسته‌ای از داده‌های آموزشی توی حافظه‌شون باقی می‌مونه، حتی اگه اون داده‌ها حذف شده باشن.
⚙️ چطور این اتفاق می‌افته؟
وقتی یه مدل با حجم عظیمی از متن آموزش می‌بینه، ناخودآگاه بعضی از اطلاعات خاص مثل ایمیل‌ها، اسم‌ها یا داده‌های شخصی رو در وزن‌هاش رمزگذاری (encode) می‌کنه.
این داده‌ها قابل مشاهده مستقیم نیستن، اما گاهی با پرامپت‌های خاص یا حملات مهندسی معکوس، بازسازی می‌شن.
به همین خاطر شرکت‌ها الان دارن دنبال روش‌هایی مثل Differential Privacy و Selective Forgetting می‌رن تا مدل یاد بگره چی نباید یاد بگیره! 😅
📌 مرجع تخصصی هوش مصنوعی و علم داده
🤖 دیتایاد / datayad@