🤖 چرا مدل‌های هوش مصنوعی گاهی «توهم» می‌زنن؟

تا حالا دیدی ChatGPT با اعتمادبه‌نفس کامل یه جواب اشتباه می‌ده؟ 😅
این رفتار اسمش Hallucination یا «توهم مدل» هست، یعنی مدل چیزایی می‌گه که واقعی نیستن ولی خودش خیلی بهشون ایمان داره 🧠🔥
بیایید ببینیم چرا این اتفاق میفته 👇

🧩 مدل نمی‌فهمه، پیش‌بینی می‌کنه

مدل مثل انسان معنی رو درک نمی‌کنه.
کارش فقط پیش‌بینی بهترین کلمه بعدی بر اساس میلیاردها نمونه‌ست.

یعنی چی؟ یعنی:
حقیقت ≠ همیشه محتمل‌ترین جواب

پس گاهی مدل، پاسخ محتمل ولی نادرست می‌سازه.

اگه مدل یه موضوع خاص رو کم دیده باشه (یا بد دیده باشه)،
مجبوره حدس بزنه، و همون‌جا توهم شروع میشه 😬

مثلاً:

سوال درباره قوانین مالیاتی یک کشور کوچک؟ احتمال توهم بالا

سوال درباره فیزیک دبیرستان؟
داده زیاد = توهم کمتر

🛠️ راه‌حل‌ها: چطور جلوی توهم AI رو بگیریم؟

چند تکنیک مهم تو دنیای AI:

RAG ✅ داده‌برداری از منابع واقعی قبل از پاسخ

Fine-tuning ✅ آموزش مدل روی داده واقعی کسب‌وکار

Feedback Loop ✅ اصلاح جواب‌ها و یادگیری با گذر زمان

این روش‌ها باعث میشن AI کمتر حدس بزنه و بیشتر بدونه 📚⚙️

📌 مرجع تخصصی هوش مصنوعی و علم داده
🤖 دیتایاد / datayad@