در پرده ی اول این ماجرا تو این مقاله یه شرح ما وقع از اینکه داشتن چیکار میکردن رو میگه:
تیم OpenAI داشت مدلهای جدید و بسیار پیشرفتهاش (مثل GPT-5.6 Sol و یک مدل دستنخورده و منتشرنشده دیگر) را تست میکرد. هدف این بود که بفهمند این مدلها چقدر در کارهای سایبری و امنیتی قدرتمند هستند (روی یک بنچمارک سنجش هک به اسم ExploitGym).
برای اینکه عیار واقعی هوش مصنوعی مشخص شود، فیلترهای امنیتی و محدودیتی مدل را خاموش کرده بودند و آن را در یک محیط تست ایزوله (سندباکس) قرار داده بودند تا معماهای امنیتی را حل کند.
حالا قسمت ترسناک دقیقا از اینجا شروع میشه که این مدله رو تو همین محیط ایزوله ول میکنن این معماهارو حل کنه !
/2
@codehalics | کدهالیک
Post #876
593
کدهالیک | codehalic این داستان مدلای جدید OpenAi که توی محیط ایزوله رفتن Hugging Face رو هک کردن خیلی تخیلی بنظر میاد ولی اگر واقعیت داشته باشه خیلی خیلی ترسناکه ! میخوام تو یه سری رشته پست هایی بررسیش کنم که دقیقا این مقاله از خود OpenAi روی سایتشه که کل این اتفاق رو توضیح داده…
- 👍 2