عجیب اما واقعی!

داریم وارد دوره‌ای می‌شیم که حتی " خود متن" هم شناسنامه خواهد داشت و شما text رو فاقد سند نخواهی دونست.

خبرای امروز میگن Anthropic روی خروجی مدل‌های جدید Claude یک Watermark نامرئی قرار میده، یعنی متنی که Claude تولید می‌کنه، حتی بعد از Copy کردن یا بعضی تغییرات جزئی، می‌تونه همچنان به‌عنوان محتوای AI قابل شناسایی باشه.

نکته جالب اینه که Watermark متنی لزوما یه کاراکتر مخفی نیست که با Ctrl+A پیداش کنید. می‌تونه به‌صورت یک الگوی آماری داخل انتخاب کلمات و Tokenها قرار بگیره؛ یعنی امضا بخشی از خود متن باشه.

و به نظرم این اتفاق هم خیلی خوبه، هم می‌تونه خیلی بد باشه.

سمت خوبش واضحه: (داداشیا این روی کد هم اعمال خواهد شد در آینده 99% ک البته همین حالا هم مشخصه ولی خب...)

تشخیص Spam و محتوای انبوه AI راحت‌تر میشه، شناسایی محتوای جعلی بهتر میشه و حتی شرکت‌های AI می‌تونن بفهمن چه دیتایی قبلا توسط مدل‌های دیگه تولید شده. و بنظرم دیگه مدل ها رو روی متن هایی ک خود AI تولید کرده Train نمیکنن.

ولی سمت عجیب داستان از جایی شروع میشه که سوال کنیم:

این Watermark دقیقا چه چیزی رو مشخص می‌کنه؟

فقط اینکه "این متن توسط AI ساخته شده"؟

یا در آینده می‌تونه مشخص کنه توسط کدوم Model، کدوم سرویس، چه زمانی و حتی تحت چه Session یا Accountی تولید شده؟

این تفاوت خیلی مهمه.

چون دقیق از وقتی ک Watermark رو اختراع کرد بشر برای صدها سال Watermark روی کاغذ، اسکناس و اسناد به ما می‌گفت یک چیز "از کجا آمده".

حالا داریم همین مفهوم رو وارد زبان می‌کنیم.

و حالا

فرض کنید Claude یک متن برام نوشته، من نصفش رو پاک کردم، چند پاراگراف اضافه کردم، ساختارش رو عوض کردم و ایده‌های خودم رو واردش کردم.

این متن دیگه متعلق به کیه؟

من؟
Claude؟
یا یه همکاری بین انسان و ماشین؟
به نظرم در آینده دعوا فقط سر این نیست که "این متن رو AI نوشته یا انسان؟"
دعوا سر مفهوم جدیدی به اسم "Provenance" یا منشا محتواست.

من برای محتواهام همیشه از AI کمک میگیرم. اصلا مگر میشه ازش کمک نگرفت وقتی با همچین توانایی سر و کار داریم.

از grok گرفته ک اخیرا مدلش داره راضیم میکنه و متن ها بهتری ارائه میده تا GPT و Kimi و Qwen و البته میکسی از همه اینها.

بنظرم

من با Watermark مخالف نیستم، اتفاقا اینترنت آینده احتمالا شدیدا بهش نیاز داره.

ولی چیزی که برام مهم‌تره اینکه Watermark چه اطلاعاتی قراره با خودش ببره و بیاره، چه کسی می‌تونه اون رو بخونه و چه کسی کنترل و دستگاه و کلید تشخیصش رو داره. این هاست ک مشخصا باید صحبت بشه درموردش.

اساسا فکر میکنم محتواهای AI دوران طلایی خواهند داشت و بعدش ب گوشه انداخته خواهند شد، چون فقط ارزش چیزی ک ذهن خلق کرده بیشتر خواهد بود. شاید هم اینطور نباشه.

https://x.com/i/trending/2086917643093827879

@DevTwitter | <Kaveh/>