یافته عجیب درباره چت‌ بات‌ ها👇🏻
درخواست پاسخ کوتاه احتمال اشتباه را افزایش می‌دهد❗️

درخواست ساده ای مثل «مختصر جواب بده» احتمالاً عملکرد چت‌ بات ها را بیشتر از آنچه تصور می‌کنید به خطا بکشاند.

مطالعه‌ای جدید از شرکت فرانسوی Giskard نشان می‌دهد که درخواست برای پاسخ های کوتاه می‌تواند دقت مدل های هوش مصنوعی را کاهش دهد. این شرکت که روی ارزیابی عملکرد مدل‌های زبانی کار می‌کند ، هشدار داد که درخواست پاسخ کوتاه باعث افزایش «توهم» یا تولید اطلاعات ساختگی در چت‌ بات‌ ها می‌شود.

به گفته‌ ی محققان ، هنگامی‌که از مدل خواسته می‌شود مختصر پاسخ دهد ، به دلیل محدودیت در فضای توضیح نمی‌تواند به‌خوبی فرضیات غلط در سؤال را اصلاح کند. درنتیجه ، اولویت دادن به اختصار به‌ ویژه در پرسش‌ های مبهم یا گمراه کننده می‌تواند دقت پاسخ را قربانی کند.

گیسکارد متوجه شد که مدل‌ های هوش مصنوعی هنگام مواجهه با ادعاهای نادرست اما با اعتماد به‌ نفس ، احتمال دارد آن‌ها را رد نکنند. این موضوع ، همراه با ترجیح کاربران به پاسخ‌ های سریع و تایید گر ، می‌تواند بر عملکرد واقعی مدل تأثیر منفی بگذارد.

در نهایت ، پژوهشگران هشدار می‌دهند که تمرکز بیش‌ از حد بر تجربه‌ی کاربری و پاسخ های سریع و خلاصه ، می‌تواند دقت و واقع‌گرایی مدل‌ ها را قربانی کند. این یافته‌ ها برای توسعه‌ دهندگان ابزارهای مبتنی بر هوش مصنوعی ، هشدار بسیار مهمی به‌ حساب می‌آید.

♦️منبع : سایت زومیت

https://t.me/THU_Computer