🚨 خط قرمز مایکروسافت برای هوش مصنوعی چیست؟

مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، درباره نقطه‌ای هشدار داده که به گفته او باید برای هوش مصنوعی یک خط قرمز جدی باشد.

اگر یک سیستم هوش مصنوعی بتواند به‌طور هم‌زمان:

🔹 خودش را به‌صورت بازگشتی بهبود دهد
🔹 اهداف مستقل برای خود تعیین کند
🔹 به‌صورت خودمختار اقدام کند
🔹 و منابع مورد نیاز خود را خودش به دست آورد

آن‌وقت، به اعتقاد سلیمان، با سطحی از توانمندی مواجه خواهیم بود که مهار آن می‌تواند به مداخله‌ای در سطح نظامی نیاز داشته باشد.

به همین دلیل، او معتقد است این قابلیت‌ها باید از هم‌اکنون قابل ممیزی، قابل اندازه‌گیری و تحت نظارت و تنظیم‌گری باشند؛ درست مانند زیرساخت‌های حساس و پرریسک.

پیام او روشن است:

> خطر هوش مصنوعی یک سناریوی علمی‌تخیلی نیست؛ می‌توان آن را تعریف کرد، اندازه گرفت و پیش از رسیدن به نقطه بحرانی، برای آن سازوکارهای ایمنی ایجاد کرد.

🤖 آقای هوش مصنوعی
🆔 @MrArtificialintelligence

#هوش_مصنوعی #ایمنی_هوش_مصنوعی #AGI #آینده_هوش_مصنوعی #مایکروسافت #مصطفی_سلیمان #AI #ArtificialIntelligence