💎 هشدار جدی مدیرعامل مایکروسافت درباره امنیت مدل‌های هوش مصنوعی

ساتیا نادلا، مدیرعامل مایکروسافت، در یادداشتی در شبکه‌ی اجتماعی ایکس خواستار تغییر نگرش امنیتی مهندسان و فرض نفوذپذیری تمام مدل‌های هوش مصنوعی از همان گام نخست شد.

او با ارائه‌ی ایده‌ی ترمز اضطراری تأکید کرد که فرد مجاز باید همواره توانایی متوقف ساختن یا خاموش کردن سامانه‌ها را در میانه‌ی اجرای فرآیند داشته باشد. نادلا معماری سامانه‌های مدرن را نیازمند طراحی‌ای دانست که مهار کامل، نظارت مستمر و بر جای ماندن شواهد خوانا و غیرقابل‌دستکاری را برای انسان فراهم کند.

محورهای پیشنهادی او شامل افشای به‌موقع رخدادهای امنیتی، حسابرسی‌های مستقل، به‌کارگیری داده‌های قابل‌راستی‌آزمایی و پیاده‌سازی سازوکارهای مهار همه‌جانبه است.

اشاره‌ی مکرر او به اصطلاح ابرهوش نشان می‌دهد غول‌های فناوری تبیین پروتکل‌های سخت‌گیرانه برای مقابله با خطرات غیرقابل‌پیش‌بینی را ضرورتی فوری می‌دانند.


🆔 @iranopenaource🌎