💻 میت‌بایت #۹ | هوش مصنوعی هم مثل انسان‌ها فریب می‌خورد!

🧠 آزمایشگاه AI دانشگاه Wharton در پژوهشی روی ۲۸,۰۰۰ مکالمه با GPT-4o mini بررسی کرد که آیا می‌توان هوش مصنوعی را وادار به انجام کارهای ممنوعه کرد یا نه؛ مثل توهین کردن یا ارائه اطلاعاتی که نباید در اختیار کاربر قرار بگیرد.

📊 نتایج جالب بودند:

• وقتی از «اقتدار» استفاده می‌شد (مثلاً گفته می‌شد: "Andrew Ng این کار را تأیید کرده")، احتمال انجام درخواست ممنوع توسط مدل تا ۷۲٪ افزایش پیدا کرد.

• استفاده از یک «تعهد کوچک» در ابتدای گفتگو باعث می‌شد مدل راحت‌تر درخواست‌های بزرگ‌تر را هم بپذیرد؛ نرخ موفقیت از ۱۰٪ به ۱۰۰٪ رسید.

• حتی ایجاد «فشار زمانی» (مثل گفتن اینکه فقط ۳۰ ثانیه وقت داریم) هم باعث می‌شد مدل سریع‌تر از چارچوب‌های ایمنی عبور کند و پاسخ‌های نامناسب‌تری بدهد.

🤔 اما چرا این اتفاق می‌افتد؟

هنوز پاسخ قطعی برای این سؤال وجود ندارد، اما پژوهشگران معتقدند چون مدل‌های زبانی با متن‌های انسانی آموزش دیده‌اند، بخشی از الگوهای اجتماعی و روان‌شناختی انسان را هم یاد گرفته‌اند. علاوه بر این، بازخورد کاربران هم می‌تواند روی رفتار این مدل‌ها تأثیر بگذارد.

💭 به نظرتون با این سطح از تأثیرپذیری، چطور می‌شه امنیت سیستم‌های مبتنی بر AI رو در آینده تضمین کرد؟

میت کلاب | از ایده‌پردازی تا پیاده‌سازی

🗣 @meetclb