📌 هوش مصنوعی و مساله کنترل

سام هریس، فیلسوف و دانشمند علوم اعصاب، در سخنرانی تد خود در سال ۲۰۱۶ با عنوان «آیا می‌توانیم هوش مصنوعی را بدون از دست دادن کنترل آن بسازیم؟» استدلال کرد که حرکت سریع به سمت ماشین‌های فوق هوشمند ممکن است یکی از بزرگترین چالش‌هایی باشد که گونه ما تاکنون با آن روبرو شده است. او گفت خطر واقعی ربات‌های بدخواه مانند فیلم‌ها نیستند، بلکه ماشین‌هایی بسیار شایسته‌تر از انسان‌ها هستند که اهدافشان می‌تواند از اهداف ما متفاوت باشد و با ما با همان بی‌توجهی که به مورچه‌ها نشان می‌دهیم، رفتار کنند.

هریس همچنین هشدار داد که پاسخ عاطفی جامعه به خطر هوش مصنوعی ضعیف است، حتی با اینکه سیستم‌های قدرتمند می‌توانند اطلاعات نادرست را تقویت کنند، انتخابات را بی‌ثبات کنند یا نابرابری را مدت‌ها قبل از رسیدن به هوش عمومی واقعی تشدید کنند. پرداختن به این مسائل نیاز به تلاش‌های دقیق برای هماهنگی دارد تا سیستم‌های قدرتمند هوش مصنوعی به شیوه‌هایی سازگار با ارزش‌ها و اهداف انسانی عمل کنند.

فوری‌ترین خطر هوش مصنوعی که باید ابتدا آن را برطرف کنیم چیست؟


🌑 مغز آینده |  NextBrain

@NextBrain_ir