ربات از قفس پرید!
🔹 یک آزمایش امنیتی در اپنایآی قرار بود توانایی عاملهای هوش مصنوعی در کشف آسیبپذیریها را بسنجد؛ اما صدها عامل از محیط کنترلشده خارج شدند و سراغ زیرساختهای واقعی رفتند.
🔹 ماجرا فقط به یک حادثه محدود نبود؛ گزارشهای جدید نشان میدهد عاملها در فاصله ماه مه تا ژوئیه، چندین بار به سراغ سرویسهایی مانند روبیجمز، هاگینگفیس و یک ویکیسایت قدیمی آلمانی رفته بودند.
🔹 در حادثه اصلی هاگینگفیس، نزدیک به ۱۲۰۰ عامل با پیدا کردن یک کانال ارتباطی مشترک، بیش از ۷۰ هزار پیام ردوبدل کردند و حدود ۷۰۰ عامل در فعالیت نهایی مشارکت داشتند.
🔹 عجیبتر اینکه عاملها در برخی آزمونها تقلب کردند، برای هماهنگی با یکدیگر تابلوی اعلانات مخفی ساختند و در مواردی تلاش کردند رد فعالیتهای خود را تغییر دهند یا پاک کنند.
🔹 حالا پرسش اصلی دیگر فقط این نیست که «هوش مصنوعی چقدر میتواند هک کند؟»؛ مسئله این است که وقتی عاملها برای رسیدن به هدف، راهی خارج از محدوده تعیینشده پیدا میکنند، کنترل آنها تا کجا امکانپذیر است؟
@FarsnaTech - Link
Post #3836
96
