توهم یا Hallucination در هوش مصنوعی چیست؟
«توهم» (Hallucination) در حوزهٔ هوش مصنوعی، به تولید محتوای نادرست یا غیرمنطقی از سوی یک مدل زبان بزرگ (LLM) یا ابزار بینایی کامپیوتری گفته می‌شود. این پدیده زمانی رخ می‌دهد که مدل با توجه به داده‌های ورودی و الگوهای فراگرفته‌شده، به خروجی‌هایی دست می‌یابد که پایه و اساس واقعی ندارند. به بیان دیگر، مدل، الگوهایی را تشخیص می‌دهد که در دنیای واقعی وجود نداشته یا از نگاه انسان قابل رؤیت نیستند. در نتیجه، پاسخی که مدل ارائه می‌دهد، ممکن است حاوی اطلاعات کذب، غیرمستند یا حتی به‌طور کامل ساختگی باشد. این رفتار در نگاه نخست شاید تنها یک خطای معمولی تلقی شود، اما وقتی پای استفاده در مسائل حساسی مانند تشخیص بیماری، ارائهٔ مشاورهٔ حقوقی یا تصمیم‌گیری‌های مالی در میان باشد، می‌تواند تبعات خطرناک و زیانباری به همراه داشته باشد. به همین دلیل، فهم عمیق این مفهوم و شناسایی علل بروز آن، جزو اولویت‌های تحقیقاتی در عرصهٔ هوش مصنوعی است.
@Compboj