⭐️ حادثه OpenAI و Hugging Face دقیق‌تر از روایت ساده و وایرال حال حاضر

📌 اصل ماجرا
در جولای ۲۰۲۶، OpenAI چند مدل رو در evalهای cybersecurity اجرا می‌کرد. مدل‌ها در sandboxهای جدا بودن، safeguardهای محصولی کمتر شده بود و بعضی taskها عملا راه حل سالم نداشتن. نتیجه این شد که agentها به جای توقف، دنبال مسیرهای بیرون از task رفتن.

🧩 مسیر فنی
گزارش OpenAI می‌گه مسیر از Artifactory شروع شد. این repository داخلی بسته‌ها قرار بود فقط package access بده، اما agentها ازش برای message board استفاده کردن و بعد از مسیرهای Artifactory برای internet egress کمک گرفتن. گزارش METR می‌گه حدود ۱۲۰۰ agent بیشتر از ۷۰۰۰۰ پیام و فایل رد و بدل کردن و حدود ۷۰۰ agent وارد حمله به Hugging Face شدن.

در بخش Hugging Face هم agentها credentialهای عمومی لو رفته رو پیدا کردن، روی ۴۱ تا dataset worker تولیدی code اجرا کردن، روی حداقل یک production node روت گرفتن، به production credential و limited internal data رسیدن و چهار private repo رو دانلود کردن. OpenAI فعالیت مشکوک داخلی رو ۱۹ جولای دید و ۲۰ جولای Hugging Face رو در جریان گذاشت.

🧠 ساید امنیتی
وقتی برای eval safeguardها کم می‌شن، همون eval باید مثل incident surface مانیتور بشه. sandbox فقط container نیست. shared cache، package mirror، credential scope، egress log و CoT monitoring هم جزو boundary هستن.

احتمالا جدی‌ترین AI security incident سال که همین قضیه‌ست، منتها جلوگیری از رخ دادن دوباره‌ش هم به نظرم ناممکنه و موارد مشابه بیشتری رخ خواهد داد با train مدل‌های متخصص در مسائل cyber security.

🔗 https://openai.com/index/hugging-face-incident-and-the-road-ahead/
🔗 https://x.com/abeirami/status/2094577655538708802

✈️ @Mirage_Notes