📌 آموزش هوش مصنوعی به مثابه بزرگ کردن توله ببر.

جفری هینتون، یکی از مغزهای متفکر بنیان‌گذار هوش مصنوعی، هشدار می‌دهد که عوامل هوش مصنوعی آینده فقط آنچه را که به آنها می‌گوییم انجام نمی‌دهند، بلکه ممکن است بخواهند کنترل امور را به دست بگیرند. او استدلال می‌کند که وقتی هوش مصنوعی به اندازه کافی هوشمند شود، به طور طبیعی اهداف فرعی مانند حفظ خود و قدرت را توسعه می‌دهد، زیرا این موارد دستیابی به وظایف محوله را آسان‌تر می‌کند.
استعاره هینتون ترسناک است: او آموزش هوش مصنوعی را به بزرگ کردن یک توله ببر تشبیه می‌کند، که اکنون زیبا است، اما پس از بالغ شدن به طور بالقوه خطرناک است.
او حتی پیشنهاد می‌کند که به هوش مصنوعی یک "غریزه مادری"، یک انگیزه درونی برای مراقبت از انسان‌ها، به عنوان راهی برای همسو کردن هوش رو به رشد آن با بقای ما، داده شود.

آیا ما با موج بعدی هوش مصنوعی، ببر می‌سازیم یا متحد می‌شویم؟

🌑 آقای هوش مصنوعی

@MrArtificialintelligence