شرکت Anthropic اعلام کرد دفاع‌های تازه‌اش در برابر «حملات تقطیر» جواب داده است. 🛡

منظور از تقطیر چیست؟ کپی‌کردن پنهانی توانایی یک مدل در مدل دیگر، معمولاً با شبکه‌ای از حساب‌های جعلی.

ارزشمندترین طعمه، زنجیره‌ی استدلال Claude است؛ همان چیزی که نشان می‌دهد مدل چطور به جواب می‌رسد.

طبق گزارش Anthropic، مقدار استدلال استخراج‌شده ۱۰ تا ۱۰۰ برابر کمتر شده؛ یعنی کاهشی حدود ۹۰ تا ۹۹ درصد.

این شرکت از سه لایه حرف می‌زند: کنترل دسترسی به استدلال، یک طبقه‌بند دومرحله‌ای با خطای کمتر از ۰٫۱ درصد و محدودیت یا بن حساب‌های متخلف.

نکته‌ی مهم برای توسعه‌دهنده‌ها: درخواست‌های مسدودشده حالا هزینه دارند و بعضی یکپارچه‌سازی‌ها باید به‌روز شوند.

جزئیات کامل و تحلیل را در سایت بخوانید. 👇

برای داغ‌ترین اخبار هوش مصنوعی، ما رو دنبال کنید 👇
📄 نسخهٔ کامل مقاله در سایت
➖➖➖➖➖
@MrChatGPT_IR