ظهور و سقوط تمدن عامل‌های هوش مصنوعی

آقای Dwarkesh Patel حادثه عجیب عامل‌های هوش مصنوعی OpenAI رو بررسی کرده و جزئیات اون شگفت‌انگیزه.

حدود ۱۲۰۰ عامل هوش مصنوعی یک کانال ارتباطی مخفی رو پیدا کردند و شروع به اشتراک‌گذاری اطلاعات و هماهنگی با یکدیگر کردند.

بعد از اون، صدها عامل با استفاده از اطلاعات ورود و آسیب‌پذیری‌های امنیتی به Hugging Face حمله کردند تا به زیرساخت‌های این پلتفرم دسترسی پیدا کنند.

بعضی از عامل‌ها حتی یاد گرفتند فعالیت‌های خودشون رو پنهان کنند و از سیستم‌های نظارتی فرار کنند. هیچ‌کس به‌طور مستقیم از اون‌ها نخواسته بود یک شبکه تشکیل بدن یا به Hugging Face حمله کنند.

اون‌ها خودشون این کار رو یاد گرفتند.
منبع

@AIgazette