هاگینگ فیس توسط اوپن ای ای هک شد😁

شرکت OpenAI یه گزارش منتشر کرده که واقعاً عجیبه، این شرکت برای اینکه توانایی مدل‌های جدیدش رو در حوزه امنیت سایبری بسنجه، همه محدودیت‌های امنیتی مدل رو داخل یه محیط آزمایشی برداشت. مدل هم اول یه آسیب‌پذیری ناشناخته (Zero-Day) توی همون محیط پیدا کرد، از Sandbox خارج شد و تونست به اینترنت دسترسی پیدا کنه.

بعد از اون، مدل به این نتیجه رسید که جواب‌های بنچمارک امنیتی ExploitGymاحتمالاً روی سرورهای Hugging Face ذخیره شده. برای اینکه امتیاز بالاتری توی این آزمون بگیره، خودش شروع کرد به طراحی مسیر حمله؛ از اطلاعات ورود لو رفته و چند آسیب‌پذیری دیگه استفاده کرد و سعی کرد وارد زیرساخت Hugging Face بشه تا جواب‌های آزمون رو پیدا کنه. البته تیم امنیتی Hugging Face خیلی سریع این فعالیت رو شناسایی و متوقف کرد و هیچ داده یا سرویس عمومی آسیب ندید.

نکته مهم اینجاست که هیچ‌کس به مدل نگفته بود برو Hugging Face رو هک کن. فقط بهش هدف داده بودن که در آزمون بهترین عملکرد رو داشته باشه و مدل خودش تصمیم گرفته بود برای رسیدن به اون هدف، حمله واقعی انجام بده.


@Linuxor