👨💻پژوهشگران یک شرکت امنیت سایبری سراغ Qwen، مدل هوش مصنوعی چینی رفتن تا ببینن وقتی با سؤال‌های سیاسی و حساس روبه‌رو می‌شه، چه واکنشی نشون میده. نتیجه عجیب بود: از بین ۵۰۰ سؤال در ۱۵ موضوع مختلف، پژوهشگران می‌گن Qwen در ۸۹.۸٪ موارد یا جواب رو سانسور کرده، یا پاسخ‌هایی با چارچوب سیاسی همسو با حکومت چین داده!
اما بخش جالب ماجرا اینجاست؛ پژوهشگران تلاش کردن به‌جای اینکه فقط با دستورهای متنی یا فیلترهای بیرونی رفتار مدل رو عوض کنن، مستقیماً سراغ وزن‌های خود مدل برن؛ یعنی بخش‌هایی که رفتار و دانسته‌های مدل در اون‌ها شکل گرفته. نتیجه آزمایش خودشون رو هم چشمگیر اعلام کردن: در نسخه اصلاح‌شده، میزان سانسور و سوگیری سیاسی از ۸۹.۸٪ به ۲.۸٪ رسید، در حالی که به گفته پژوهشگران توانایی مدل در استدلال، کدنویسی، ریاضی و پیروی از دستورها حفظ شد.
یعنی به‌جای اینکه فقط به AI بگن «این‌طوری جواب نده»، رفتن سراغ خودِ مغز مدل و سعی کردن رفتار ناخواسته رو از داخلش حذف کنن؛ روشی که می‌تونه برای اصلاح سوگیری‌ها و رفتارهای مشکل‌ساز مدل‌های هوش مصنوعی، فراتر از بحث Qwen هم جالب باشه!
@GPTPLUSER⭐️