به متن‌های ChatGPT یک Watermark اضافه شده!

شرکت OpenAI قابلیتی به اسم textGrain معرفی کرده که داخل متن تولیدشده توسط ChatGPT و Codex یک Invisible Watermark قرار می‌ده. شبیه یک Digital Fingerprint که با تغییرات خیلی ظریف در انتخاب کلمات، یک الگوی آماری مخفی ایجاد می‌کنه

کاربر چیزی نمی‌بینه یا حس نمی‌کنه، ولی یک Detector می‌تونه تشخیص بده که متن احتمالاً توسط OpenAI تولید شده.

این Watermark اطلاعاتی درباره کاربر، حساب کربری یا پرامپ نمی‌ده و فقط منشأ احتمالی متن رو مشخص می‌کنه. در حوزه اروپا این قابلیت به‌صورت خودکار فعال می‌شه، ولی در API خارج از اروپا فعلاً به‌صورت Opt-in ارائه می‌شه و Detector هم فعلاً فقط در اختیار محقق ها و سازمان‌های تأییدشده است.

البته یک محدودیت مهم داره: اگر حدود ۲۵٪ کلمات متن تغییر کنه، Detection Rate به حدود ۱۷٪ می‌رسه و برای متن‌های کوتاه یا ترجمه‌شده هم تشخیص سخت‌تره. با این حال، این قابلیت می‌تونه مسیر رو برای اعتبار سنجی محتوای AI در محصولاتی که برای بازار اروپا ساخته می‌شن جدی‌تر کنه.
لینک
@silicon_brain | از هوش مصنوعی عقب نمانید