در اتفاقی عجیب، شرکت OpenAI اعلام کرده که یکی از مدلهای عرضه نشده این شرکت، بدون اطلاع اون، اقدام به هک سیستمهای شرکت HuggingFace کرده!

چند وقت پیش شرکت HuggingFace، که دیتاستها و مدلهای متن باز مختلف روی اون هاست شده، خبر از هک شدن سیستم های این شرکت توسط نهادهای نامشخصی رو داد که به برخی سیستمهای این شرکت نفود کردن، رمزهای دسترسی اون دزدیدن و به برخی کلاسترها و نودهای اون دسترسی پیدا کردن.

در اون زمان HuggingFace به واسطه رفتار این عامل، تشخیص داده بود که این هک توسط یک ایجنت هوش مصنوعی انجام شده و به دلیل اینکه به هیچ قاعده ای پایبند نبوده، احتمالا یا یک مدل جیلبریک شده از مدلهای پولی هست یا یک مدل متن باز بدون هیچ محدودیتی باشه.

حالا OpenAI خبر داده که این هک توسط مدلهای این شرکت انجام شده و این اتفاق در حین ارزیابی امنیتی یک مدل عرضه نشده از این شرکت همراه با GPT 5.6 Sol برای انجام تست ExploitGym انجام شده.

در این تست، مدل OpenAI بدون هیچ سیستم محافظتی در مدل، در یک محیط ایزوله قرار گرفته که دسترسی به اینترنت به طور گسترده نداره بلکه فقط میتونه پکیج های مختلف رو برای انجام تستهاش از پکیج منیجرهای مختلف مثل Ubuntu apt و PyPI نصب کنه.

این مدل برای حل تستهای ExploitGym اقدام به تقلب کرده و یک حفره امنیتی روز صفر در سیستم پروکسی یکی از پکیج منیجرها پیدا کرده و با استفاده از اون به اینترنت به طور گسترده دسترسی پیدا کرده. بعد از اون فکر کرده که جواب این تستها احتمالا روی HuggingFace باشه در نتیجه اقدام با ترکیب حفره های امنیتی مختلف، به زیرساخت این شرکت نفوذ کرده و با دسترسی به دیتابیسهای داخلی اون، اونهارو برای پیدا کردن جواب تستها گشته.

شرکت HuggingFace که از این ماجرا بی خبر بوده، قصد داشت برای انالیز این حمله از مدلهای قدرتمند OpenAI و Claude استفاده کنه ولی سیستم های حفاظتی این مدلها، جلوی هر گونه انالیز و بررسی لاگها، دستورات اجرا و فایلهای ساخته شده توسط این حمله رو گرفتن و به هر چیزی که شباهتی به هک داشته باشه نزدیک هم نشدن.

در نتیجه این شرکت برای اینکار دست به دامن مدلهای متن باز شده و با اجرای مدل متن باز GLM 5.2 روی زیرساخت خودش، موفق شده اثار به جا مانده از این حمله رو بررسی، از خودش در مقابل این حمله دفاع و زیرساختش رو امن کنه.

شرکت OpenAI اعلام کرده که بعد از انجام این حمله، اون رو به HuggingFace اطلاع داده و همکاری های لازم رو برای اصلاح خرابکارهایی که کرده انجام میده.

با انجام چنین حمله ای، مشخص شده که استفاده از ایجنتهای هوش مصنوعی پیشرو برای توسعه حفره های امنیتی، ترکیب اونها با همدیگه و سواستفاده از اونها، دیگه یک قابلیت فرضی و خیالی نیست، بلکه در عمل و در دنیای واقعی هم میتونه مورد سواستفاده قرار بگیره.

🔎 simonwillison