یه جوری بهت چرتو پرتو تحویل میده که فکر میکنی تو داری اشتباه می‌کنی!

هذیان گویی یا hallucinations در مدل های زبانی یه همچین چیزیه. حالا فکر کنید درباره موضوعی که ازش اطلاعات نداریم یا میخوایم برای اولین بار بخونیم و از مدل زبانی ای که اینطوری ریپ میزنه، استفاده کنیم چه شود!،
منو باش برای امتحاناتم از تو استفاده میکردم...

➖مدل را مجبور کن اگر مطمئن نیست بگوید «نمی‌دانم».
در پرامپت بنویس: «اگر شواهد کافی نداری، حدس نزن و صریح بگو نمی‌دانم.»
➖منبع یا استدلال بخواه.
بپرس: «این پاسخ بر چه منبع یا منطقی استوار است؟»
اگر نتواند توضیح منطقی بدهد، احتمال هذیان بیشتر است.
➖پاسخ را با چند منبع مستقل بررسی کن.
مخصوصاً برای اطلاعات پزشکی، حقوقی یا اخبار، یک منبع کافی نیست.
➖از مدل بخواه میزان اطمینانش را اعلام کند.
مثلاً: «برای هر ادعا درصد اطمینان و دلیلش را بنویس.»
این قطعی نیست، اما کمک می‌کند ادعاهای ضعیف را راحت‌تر تشخیص دهی.
➖سؤال را دقیق و محدود بپرس.
هرچه سؤال مبهم‌تر باشد، احتمال هذیان بیشتر می‌شود.
به‌جای «درباره سرطان بگو»، بپرس: «سه عامل
خطر سرطان ریه را طبق راهنمای WHO نام ببر.»

➖➖➖➖➖
🔴 @hitwithit