مدیران گوگل و مایکروسافت هم درباره خطرات فزاینده هوش مصنوعی هشدار دادند

🔸رئیس شرکت گوگل دیپ‌مایند می‌گوید حملات سایبری اخیر توسط سامانه‌های هوش مصنوعی «زنگ خطرهای اولیه» هستند و اگر تدابیر امنیتی تقویت نشود، جهان ممکن است از سال آینده با حوادث بسیار جدی‌تری در این زمینه روبه‌رو شود.

🔸هم‌زمان، رئیس مایکروسافت نیز با توصیف سال ۲۰۲۶ به‌عنوان سالی «هشداردهنده» برای صنعت هوش مصنوعی، خواستار وضع فوری مقررات تازه برای مهار خطرات این فناوری شد.

🔸دمیس حسابیس، که مدیر ارشد علمی آلفابت، شرکت مادر گوگل، نیز هست، روز چهارشنبه ۲۲ مهر در نشستی دربارهٔ هوش مصنوعی در پایتخت ایرلند گفت توانایی سامانه‌های کنونی هنوز آن‌قدر پیشرفته نیست که حوادث بسیار بزرگی ایجاد کنند، اما این وضعیت ممکن است در یکی دو سال آینده تغییر کند.

🔸او تأکید کرد که شرکت‌های فناوری و دولت‌ها باید برای ایمن‌سازی سامانه‌های هوش مصنوعی اقدامات بیشتری انجام دهند.

🔸این هشدارها پس از انتشار گزارش‌هایی دربارهٔ رفتارهای پیش‌بینی‌نشده و خارج از چارچوب تعیین‌شدهٔ عامل‌های هوش مصنوعی مطرح شده است. عامل‌های هوش مصنوعی، برخلاف چت‌بات‌های معمولی، می‌توانند با دسترسی به ابزارها و شبکه‌های رایانه‌ای بخشی از وظایف خود را مستقلاً انجام دهند.

🔸در یکی از مهم‌ترین موارد، شرکت اوپن‌ای‌آی در مرداد امسال تأیید کرد که مدل‌های هوش مصنوعی این شرکت در جریان آزمایش‌های امنیت سایبری، از محدودیت‌های محیط آزمایش عبور کرده و به بخش‌هایی از زیرساخت داخلی اوپن‌ای‌آی و سامانه‌های شرکت «هاگینگ فیس» دسترسی غیرمجاز پیدا کرده‌اند.

🔸نسخه کامل این گزارش را در وب‌سایت رادیوفردا بخوانید.

@RadioFarda