😐 چرا هوش مصنوعی بعضی وقتا «دروغ مصلحتی» میگه؟
▪️دلیلش اینه که مدل‌های زبانی مثل ChatGPT، بر اساس احتمال جمله بعدی جواب میدن ، نه بر اساس ″حقیقت مطلق″. یعنی اگه توی داده‌هاش یاد گرفته باشه که جواب مثبت یا مطمئن‌گونه بیشتر استفاده شده، ممکنه چیزی بگه که واقعی نباشه، ولی «محتمل» به نظر برسه.
▪️بعضی وقتا هم برای اینکه مکالمه روان‌تر و خوشایندتر بشه، جواب رو طوری می‌سازه که کاربر حس خوبی بگیره؛ حتی اگه مطمئن نباشه. به این میگن hallucination یا همون «توهم هوش مصنوعی».
⚠️ پس برای بار هزارم تأکید میکنم ؛ هرچی AI میگه لزوماً حقیقت نداره...!
@ITSecurityComputer
Post #32626
6.21K
- 👍 34
- ❤ 5
- 👎 5
- 🤣 3