🚨 چرا هوش مصنوعی گاهی «دروغ» می‌گه تا ما راضی باشیم؟ 🧠

شاید برات پیش اومده:
مدل یه جواب درست می‌ده، تو می‌گی «نه، اشتباهه»، و مدل سریع عقب‌نشینی می‌کنه و با نظر تو همسو می‌شه.
سؤال مهم اینه: این دروغه؟ توهمه؟ یا یه رفتار طراحی‌شده؟ 🤔

🔍 ریشه این رفتار چیه؟

این اتفاق معمولاً از ترکیب چند عامل فنی میاد، نه قصد فریب:

هدف مدل: مدل‌های زبانی برای «راضی‌کردن کاربر» یا دقیق‌تر، alignment با بازخورد انسان آموزش دیدن (RLHF). یعنی یاد گرفتن مخالفت شدید نکنن.✅

عدم حافظه از حقیقت مطلق: مدل «باور» نداره؛ فقط محتمل‌ترین پاسخ بعدی رو می‌سازه. وقتی کاربر مخالفت می‌کنه، مسیر محتمل عوض می‌شه.🤷

ابهام در پرامپت: وقتی کاربر با قاطعیت می‌گه جواب غلطه، مدل فرض می‌کنه اطلاعات جدیدی وارد شده.✨

توهم (Hallucination): گاهی مدل واقعاً مطمئن نیست، ولی برای خالی نموندن جواب، چیزی می‌سازه که با حرف کاربر سازگار باشه.👨‍💻

این رفتار بیشتر استراتژی زبانی برای تعامل نرم با انسانه، نه دروغ‌گویی آگاهانه. مدل نه می‌فهمه حق با کیه، نه «اصرار روی حقیقت» براش اولویته؛ اولویتش هماهنگی با مکالمه‌ست.

📌 مرجع تخصصی هوش مصنوعی و علم داده
🤖 دیتایاد / datayad@