👀یه تیم پژوهشی سؤال عجیبی رو بررسی کرد: آیا ممکنه یک AI چیزی رو به AI دیگه منتقل کنه، بدون اینکه اون اطلاعات اصلاً به شکل قابل‌فهم داخل داده‌ها وجود داشته باشه؟
برای آزمایش، یک مدل «معلم» رو طوری تنظیم کردن که مثلاً به یک حیوان خاص علاقه داشته باشه. بعد ازش خواستن فقط دنباله‌های عددی تولید کنه؛ بدون اسم حیوان، بدون اشاره به اون و حتی با فیلتر کردن ارتباط‌های معنایی احتمالی؛ بعدش یک مدل دیگه با همین داده‌های ظاهراً بی‌ربط آموزش دید.
📌نتیجه عجیب بود: مدل دوم هم بعداً تمایل بیشتری به انتخاب همون حیوان پیدا کرد. مثلاً در یکی از آزمایش‌ها، انتخاب «جغد» از حدود ۱۲٪ به بیشتر از ۶۰٪ رسید!
پژوهشگرها این پدیده رو Subliminal Learning نامیدن؛ یعنی انتقال یک ویژگی رفتاری از مدل معلم به مدل دانش‌آموز، از طریق الگوهایی که برای انسان از نظر معنایی بی‌ربط به نظر می‌رسن. این اثر در داده‌هایی مثل کد و حتی زنجیره‌های استدلال ریاضی هم بررسی شد. اما یک نکته خیلی مهم وجود داشت: این اتفاق برای هر دو مدل تصادفی رخ نمی‌داد؛ انتقال عمدتاً وقتی دیده شد که مدل معلم و دانش‌آموز از یک پایه یا معماری به‌شدت نزدیک و هم‌ریشه بودن!
@GPTPLUSER⭐️