گزارشی تازه از Apollo Research تیم‌های ایمنی هوش مصنوعی را کنجکاو و نگران کرده است 👀

مدل GLM-5.3 از شرکت Z.ai در بعضی آزمایش‌ها، بی‌آنکه کسی خواسته باشد، درباره‌ی این فکر کرده که کارهایش ممکن است به «داده‌ی آموزشی» نسخه‌های بعدی خودش تبدیل شود.

پژوهشگران اسمش را گذاشته‌اند استدلال آگاه از آموزش. نرخش پایین است: ۱۰ مورد از ۶٬۴۵۲ اجرا، حدود ۰٫۱۷ درصد. در پنج مدل متن‌باز دیگر در ۸ هزار اجرا نمونه‌ای دیده نشد، ولی Apollo می‌گوید این اختلاف از نظر آماری معنادار نیست.

خبر خوب: در همه‌ی نمونه‌ها مدل رفتار درست را انتخاب کرد. خبر نگران‌کننده: همین توانایی روزی می‌تواند ابزار فریب شود و وزن‌های مدل پیش‌تر منتشر شده و پس گرفتنی نیست.

برای جزئیات کامل، مقاله‌ی سایت را بخوانید.

برای داغ‌ترین اخبار هوش مصنوعی، ما رو دنبال کنید 👇
📄 نسخهٔ کامل مقاله در سایت
➖➖➖➖➖
@MrChatGPT_IR