⬅️ خلاصه اتفاقی که OpenAI توی گزارش منتشر کرده:

یه تست امنیت سایبری داخلی به وسیله OpenAI برگزار میشه و برای اینکه حداکثر توانایی مدل رو بسنجه، بعضی محدودیت‌های ایمنی رو موقتاً کم میکنه.

مدل‌ها مأمور شدن چالش‌های پیشرفته ExploitGym رو حل کنن.

تست داخل یه Sandbox بدون اینترنت مستقیم اجرا می‌شد.

مدل‌ها یه آسیب‌پذیری Zero-Day توی زیرساخت Sandbox پیدا کردن.

از همون آسیب‌پذیری استفاده کردن تا از Sandbox خارج بشن و دسترسی بیشتری بگیرن.

بعد با Privilege Escalation و Lateral Movement خودشون رو به سیستمی رسوندن که اینترنت داشت.

مدل‌ها حدس زدن جواب‌های آزمون احتمالاً روی Hugging Face باشه.

بعد با سوءاستفاده از چند آسیب‌پذیری و اطلاعات ورود، وارد زیرساخت Hugging Face شدن.

آخر هم جواب‌های آزمون رو از دیتابیس برداشتن و به‌جای حل واقعی سؤال‌ها، از اون‌ها برای تقلب توی ارزیابی استفاده کردن.

من که پشمی برام نمونده!

aleskxyz

✅ Channel
💬 Group