🚨🤖 شرکت OpenAI: تلاش گسترده برای استخراج «استدلال پنهان» مدل‌ها

شرکت OpenAI می‌گوید یک کمپین هماهنگ برای استخراج Hidden Reasoning مدل‌هایش را متوقف کرده و «هسته اصلی» این فعالیت را به افرادی مرتبط با شرکت چینی Moonshot AI، سازنده Kimi نسبت داده است.

🔐 یکی از روش‌ها جالب بود: مهاجمان بلوک‌های رمزگذاری‌شده استدلال را از یک گفتگو برداشته و در گفتگویی دیگر تلاش می‌کردند مدل را وادار به بازسازی محتوای آن کنند. OpenAI تأکید می‌کند که رمزنگاری شکسته یا دیتابیسی هک نشده بود.

📊 طبق اعلام OpenAI، فقط در ۲۴ و ۲۵ ژوئیه بیش از ۱۶ هزار درخواست با الگوی استخراج از بیش از ۴ هزار کاربر ثبت شد؛ فعالیت مرتبط گسترده‌تر نیز بیش از ۱۵ هزار کاربر را شامل می‌شد و تا ۲۸ ژوئیه مختل شد.

جالب اینکه Anthropic نیز اخیراً Moonshot را متهم کرده بود که صدها هزار درخواست کاربران Kimi را به Claude هدایت کرده و بخشی از Chain-of-Thought را برای آموزش مدل‌ها استخراج کرده است. این ادعاها از سوی شرکت‌های رقیب مطرح شده‌اند و باید همین‌طور نسبت داده شوند.

@rss_ai_ir

#OpenAI #MoonshotAI #Kimi #AI #Distillation #ChainOfThought #AISecurity #هوش_مصنوعی