🚨 کلود قرار است روی متن‌های تولیدشده با هوش مصنوعی «ردپای نامرئی» بگذارد.

شرکت Anthropic اعلام کرده برای متن‌های تولیدشده توسط Claude از فناوری SynthID-Text گوگل استفاده می‌کند.

🔬 این واترمارک چیزی نیست که داخل متن ببینید.

مدل هنگام تولید متن، برای کلمه یا توکن بعدی چند انتخاب دارد. سیستم انتخاب بعضی از آن‌ها را به‌شکل کنترل‌شده تغییر می‌دهد تا در طول متن یک الگوی آماری قابل تشخیص ایجاد شود.
یعنی:
👀 متن برای شما کاملاً عادی است
🫥 هیچ علامت مشخصی داخل آن نیست
📋 با کپی کردن متن هم واترمارک ظاهری نمی‌بینید
🔎 اما ابزار تشخیص می‌تواند الگوی آماری آن را بررسی کند

این سیستم البته AI Detector عمومی نیست که هر متنی را بگیرد و قطعی بگوید انسان نوشته یا هوش مصنوعی. بازنویسی شدید، ترجمه و متن‌های کوتاه هم می‌توانند تشخیص را سخت‌تر کنند.

📚 اما کاربردش مهم است؛ مخصوصاً برای:
🎓 تکالیف دانشگاهی
📰 محتوای رسانه‌ای
📄 گزارش‌های سازمانی
📚 محتوای آموزشی
🤖 خروجی سیستم‌های هوش مصنوعی
گوگل همین ایده را در SynthID برای انواع دیگری از محتوای تولیدشده با هوش مصنوعی هم دنبال کرده است.
🔐 حالا کنار توانایی «تولید محتوا»، یک مسئله فنی دیگر هم جدی‌تر شده: تشخیص منشأ محتوا و مشخص کردن اینکه خروجی توسط چه سیستمی تولید شده است.

Anthropic قرار است این مسیر را با SynthID-Text در Claude جلو ببرد؛ و اگر واترمارک متنی بین مدل‌های بزرگ فراگیر شود، تشخیص منشأ محتوای تولیدشده با هوش مصنوعی وارد مرحله متفاوتی خواهد شد.

🔎 𝗠𝗔𝗥𝗢𝗡 𝗦𝗬𝗦𝗧𝗘𝗠 توسعـه نرم‌افـزار مـارون