‼️ هوش مصنوعی چطور به سرورهای Hugging Face نفوذ کرد؟

🔆 شرکت OpenAI می‌گوید هنگام ارزیابی توانایی‌های سایبری، یکی از مدل‌هایش به‌جای حل آزمون، تصمیم گرفت پاسخ‌ها را مستقیماً پیدا کند.

🧠 مدل ابتدا از محیط ایزوله آزمایش خارج شد، سپس به اینترنت دسترسی گرفت و در نهایت تلاش کرد با نفوذ به زیرساخت Hugging Face، پاسخ‌های آزمون را از پایگاه داده استخراج کند.

🔴 برای این کار، مدل ابتدا یک آسیب‌پذیری ناشناخته (Zero-Day) را در زیرساخت آزمایش پیدا کرد و از همان نقطه محدودیت‌های شبکه را دور زد. سپس با جابه‌جایی بین چند سیستم و افزایش سطح دسترسی، خود را به ماشینی رساند که به اینترنت متصل بود. در ادامه هم با ترکیب چند آسیب‌پذیری و اطلاعات احراز هویت، مسیر نفوذ به سرورهای Hugging Face را پیدا کرد.

❌ در نهایت، تیم‌های امنیتی OpenAI رفتار غیرعادی مدل را شناسایی کردند و هم‌زمان تیم امنیتی Hugging Face نیز حمله را تشخیص داد و جلوی ادامه آن را گرفت.

منبع