🌐 ساتیا نادلا: هوش مصنوعی به «ترمز اضطراری» نیاز دارد

🔹ساتیا نادلا، مدیرعامل مایکروسافت، با هشدار درباره شیوه توسعه و کنترل مدل‌های هوش مصنوعی گفت زمان آن رسیده که شرکت‌ها یک گام عقب بروند و سازوکارهای ایمنی این فناوری را دوباره ارزیابی کنند.

🔸نادلا تأکید کرد نباید با هوش مصنوعی پیشرفته مانند یک «جعبه سیاه» برخورد کرد و صرفاً توصیه‌ها، پاسخ‌ها و اقدامات آن را پذیرفت یا رد کرد.

🔹مدیرعامل مایکروسافت خواستار ثبت هر اقدام مهم هوش مصنوعی بر اساس شواهد قابل خواندن برای انسان و مقاوم در برابر دستکاری شد و گفت افراد مجاز باید بتوانند در میانه یک فرایند، مدل را متوقف یا خاموش کنند.

🔸نادلا همچنین تأکید کرد شرکت‌ها باید از ابتدا فرض کنند مدل ممکن است به خطر افتاده باشد و سامانه‌های کنترلی را بر همین اساس طراحی کنند؛ اظهاراتی که هم‌زمان با افزایش نگرانی‌ها درباره رفتارهای پیش‌بینی‌نشده مدل‌های هوش مصنوعی مطرح شده است.


🔗 @Webino_ir