⚠️ مدیرعامل Anthropic: احتمال یک فاجعه ناشی از هوش مصنوعی را نمی‌توان نادیده گرفت

داریو آمودی، هم‌بنیان‌گذار و مدیرعامل Anthropic، برآورد می‌کند که احتمال وقوع یک فاجعه در مقیاس تمدنی ناشی از هوش مصنوعی پیشرفته، بین ۱۰ تا ۲۵ درصد است؛ عددی که او در ماه‌های اخیر بارها به آن اشاره کرده، در حالی که خود نیز در حال توسعه همین فناوری است.

او برای توضیح دیدگاهش از صنعت هوانوردی مثال می‌زند. به اعتقاد آمودی، همان‌طور که هواپیماها و داروها با قوانین سخت‌گیرانه ایمنی و نظارت توسعه می‌یابند، هوش مصنوعی پیشرفته نیز باید تحت چارچوب‌های دقیق تنظیم‌گری قرار گیرد.

از نگاه او، خطر واقعی است؛ اما اجتناب‌ناپذیر نیست.
با مهندسی بهتر، آزمون‌های ایمنی و نظارت مؤثر می‌توان احتمال وقوع این خطرات را به شکل قابل توجهی کاهش داد.

اما پرسش اصلی همچنان باقی است:

❓ اگر یکی از سازندگان بزرگ هوش مصنوعی احتمال وقوع یک فاجعه را تا ۲۵ درصد برآورد می‌کند، چه سطحی از ایمنی برای این فناوری کافی خواهد بود؟

📡 کانال آقای هوش مصنوعی
🆔 @MrArtificialintelligence

#هوش_مصنوعی #Anthropic #AISafety #داریو_آمودی #فناوری_آینده