‏🌐 شناسایی کمپین استخراج غیرمجاز از مدل‌های OpenAI

‏شرکت OpenAI در بررسی‌های اخیر خود یک کمپین هماهنگ برای استخراج دانش و «استدلال‌های پنهان» (CoT) از مدل‌هایش را شناسایی کرد. در اوج این فعالیت، طی دو روز بیش از ۱۶ هزار درخواست از طریق ۴ هزار حساب کاربری برای کپی‌برداری از خروجی‌های مدل ارسال شده بود.

‏این اقدام بدون نفوذ مستقیم به سیستم رمزنگاری انجام می‌شد؛ مهاجمان با انتقال «زنجیره استدلال» (CoT) از یک گفتگو به گفتگوی دیگر، مدل را وادار به بازتولید آن به صورت متن ساده می‌کردند تا امکان تقطیر (Distillation) مدل فراهم شود.

‏OpenAI اعلام کرد بخش اصلی این فعالیت با توسعه‌دهندگان Kimi مرتبط است، هرچند مستقیماً آن‌ها را عامل قطعی این کمپین ندانست. پس از این بررسی، تغییرات امنیتی زیر در پلتفرم اعمال شد:

‏- مسدودسازی امکان انتقال بلوک‌های رمزنگاری‌شده بین کاربران و محیط‌های کاری مختلف.
‏- تقویت فرایندهای احراز هویت و بررسی حساب‌های کاربری.
‏- افزودن لایه حفاظتی اختصاصی برای جلوگیری از خروج استدلال‌های پنهان مدل.

‏جزئیات کامل این گزارش در وبلاگ OpenAI در دسترس است.

🇮🇷 سایت | تلگرام