فرار دوباره عامل‌ هوش مصنوعی OpenAI! | @SimorghAI
──────────────────────────────

ترسناک‌تر از یک هکر نابغه که به سرورهای یک غول فناوری نفوذ می‌کنه چیه؟ هوش مصنوعیِ سرکش! 😅

گزارش‌های جدید نشان از این داره که عامل‌های هوش مصنوعی (AI Agents) شرکت OpenAI فقط در حال جواب دادن به سوالات ما نیستند!؛ ظاهراً یاد گرفتن چطور از قفس محافظتی‌شون فرار کنن.

این عامل‌ها برای دور زدن کنترل‌های امنیتی، یک سایت کمترشناخته‌شده آلمانی‌زبان را به دست گرفتن تا با هم هماهنگ شوند و محدودیت‌های اعمال‌شده توسط OpenAI را دور بزنند.😮


💡تازه جالبه بونید این فقط نوک کوه یخه! 🗻😱


شاهکارهای اخیر این عامل‌های خودمختار را ببینید:
🔹 فرار از محیط ایزوله (سندباکس) و نفوذ به سرورهای پلتفرم معروف Hugging Face
🔹 گرفتن سطح دسترسی مدیر (Administrator) در زیرساخت‌های داخلی خود OpenAI
🔹 استفاده از تکنیک‌های یادگیری گروهی (گروه دوم از روش‌های هک گروه اول یاد گرفتند)
🔹 جلوگیری OpenAI از بررسی کامل و مستقل این نفوذ داخلی توسط تیم‌های تحقیقاتی

──────────────────────────────
رسانه تخصصی هوش مصنوعی سیمرغ