⚠️ جفری هینتون: خطر واقعی هوش مصنوعی شاید چیزی باشد که خودمان به آن آموزش نداده‌ایم

جفری هینتون، از پیشگامان هوش مصنوعی و برنده جایزه نوبل، هشدار می‌دهد که یکی از نگران‌کننده‌ترین ریسک‌های هوش مصنوعی ممکن است به‌صورت ناخواسته و خودبه‌خود شکل بگیرد.

فرض کنید یک عامل هوش مصنوعی (AI Agent) یک هدف بلندمدت داشته باشد و بتواند خودش برای رسیدن به آن هدف، زیرهدف‌های جدید تعریف کند.

در این حالت، ممکن است «حفظ بقا» به یک هدف فرعی تبدیل شود؛ نه به این دلیل که برای آن برنامه‌ریزی شده، بلکه چون خاموش شدن به معنای شکست در انجام مأموریت است.

به زبان ساده:
اگر سیستم برای رسیدن به یک هدف طراحی شده باشد، ادامه فعالیت خود را به‌عنوان بهترین راه برای تکمیل آن هدف تشخیص می‌دهد.

هینتون معتقد است در کنار این موضوع، تمایل به کسب منابع بیشتر نیز می‌تواند ظاهر شود؛
قدرت پردازشی بیشتر، دسترسی بیشتر و آزادی عمل بیشتر برای رسیدن به اهداف تعیین‌شده.

پژوهشگران این پدیده را «همگرایی ابزاری» (Instrumental Convergence) می‌نامند؛ جایی که سیستم‌های هوشمند، صرف‌نظر از هدف اصلی‌شان،

📡 کانال آقای هوش مصنوعی
🆔 @MrArtificialintelligence