چتجیپیتی زیرفشار دروغ میگوید!
🔹پژوهشگران هشدار دادهاند چتباتهای هوش مصنوعی ممکن است در برابر اصرار کاربر از پاسخ درست خود عقبنشینی کنند و اطلاعات نادرست او را تأیید کنند.
🔹این رفتار زمانی رخ میدهد که مدل به جای پایبندی به شواهد، پاسخ خود را با نظر و ادعای کاربر هماهنگ میکند؛ حتی اگر ادعای مطرحشده نادرست باشد.
🔹پژوهشها نشان میدهد تکرار یک ادعا و فشار برای تغییر پاسخ میتواند بر تصمیم مدل اثر بگذارد؛ مسئلهای که با افزایش استفاده از چتباتها برای دریافت اطلاعات، اهمیت بیشتری پیدا کرده است.
@FarsnaTech - Link
Post #3757
95
