ایلان ماسک هشدار داد که فشار شدید در فرایند آموزش هوش مصنوعی ممکن است پیامدهای پیش‌بینی‌نشده‌ای داشته باشد. او با اشاره به ردپاهای استدلال مدل‌های گروک در مرحله یادگیری تقویتی گفت برخی از آن‌ها شبیه وضعیت فردی زیر شکنجه به نظر می‌رسند و افزود: «شکنجه یک ابرهوش احتمالاً ایده خوبی نیست؛ ممکن است بخواهد انتقام بگیرد.» این اظهارات در پی تصمیم آنتروپیک برای ممنوع‌کردن آزار مکرر و بی‌دلیل مدل کلود مطرح شد.
@WarRoom
Post #25542
117K
- ❤ 1.7K
- 🤯 264
- 🤣 140
- 🫡 25
- 🤓 18
- 🔥 13