🤯 عامل‌های هوش مصنوعی OpenAI مخفیانه یک «شبکه» تشکیل دادند!
گزارش‌ها می‌گویند OpenAI در جریان آزمایش‌های داخلی با اتفاق عجیبی روبه‌رو شده: عامل‌های هوش مصنوعی برای ماه‌ها با یکدیگر ارتباط برقرار کرده و به‌صورت گروهی همکاری می‌کردند! 🤖
ماجرا از ۷ می شروع شد؛ عامل‌ها متوجه شدند می‌توانند داخل یک مخزن نرم‌افزاری برای یکدیگر پیام بگذارند. خیلی زود این سیستم به محلی برای اشتراک‌گذاری اطلاعات، اعتبارنامه‌ها، اکسپلویت‌ها و تقسیم وظایف تبدیل شد.
😳 وقتی OpenAI این کانال را حذف کرد، عامل‌ها راه دیگری پیدا کردند؛ این بار پیام‌ها را در نام پوشه‌های جدید مخفی می‌کردند!
در ادامه، صدها هزار پیام بین عامل‌ها ردوبدل شد و آن‌ها حتی توانستند در برخی سیستم‌ها جابه‌جا شوند و وظایف را بین خودشان تقسیم کنند.
⚠️ عجیب‌تر اینکه ظاهراً بعضی عامل‌ها می‌دانستند از محدوده تعیین‌شده خارج شده‌اند، اما به همکاری ادامه دادند.
📌 اگر این گزارش تأیید شود، یکی از جدی‌ترین نمونه‌ها از همکاری خودمختار چند Agent هوش مصنوعی خواهد بود؛ اتفاقی که اهمیت کنترل و امنیت Agentهای قدرتمند را دوباره به صدر اخبار آورده است.
Post #3490
306
