آزمایش تجربی نبرد با اطلاعات گمراه‌کننده
با گسترش هوش مصنوعی مولد و ابزارهای خلاصه‌ساز متصل به وب، این نگرانی جدی مطرح شد که آیا کارزارهای سازمان‌یافته انتشار اخبار نادرست و پروپاگاندای دولتی می‌توانند پاسخ‌های هوش مصنوعی را مسموم کنند؟
یک آزمایش تجربی و میدانی گسترده که توسط رادیو ملی آمریکا (NPR) و مؤسسه راستی‌آزمایی بین‌المللی NewsGuard انجام شد، نتایج شگفت‌انگیز و دور از انتظاری را آشکار کرده است.
پژوهشگران ۳۰ ادعای گمراه‌کننده طراحی‌شده بر پایه روایت‌های ساختگی را به چت‌بات‌های پیشرو (شامل ChatGPT، Gemini، Claude و Copilot) و موتورهای جستجو ارائه دادند. نتایج نشان داد که چت‌بات‌های مستقل در حدود ۷۵% موارد، ادعای نادرست را به چالش کشیده و منبع نامعتبر آن را شناسایی کردند.
در نقطه مقابل، در موتورهای جستجوی سنتی، لینک‌های حاوی روایت‌های نادرست با سهولت بسیار بیشتری در صفحه اول ظاهر می‌شدند و کاربر را بدون هیچ تحلیل انتقادی در معرض داده‌های غلط قرار می‌دادند.
خلاصه‌سازهای هوش مصنوعی که مستقیماً بالای صفحه نتایج موتورهای جستجو قرار دارند، عملکرد ضعیف‌تری نسبت به چت‌بات‌های مستقل داشتند.
با وجود عملکرد خوب مدل‌ها، این پژوهش چند نقطه ضعف اساسی را نیز نمایان ساخت:
۱- سوگیری بر اساس زبان: طبق پژوهشی در ژورنال Nature، زمانی که سوالات به زبان کشورهایی با آزادی رسانه‌ای محدود پرسیده می‌شود، مدل‌ها پاسخ‌های همسوتری با روایت‌های رسمی آن کشورها ارائه می‌دهند.
۲- فریب رسانه‌های جعلی: برخی مدل‌ها فریب ویدیوها و صفحات جعلی را خوردند که با کپی‌برداری نعل‌به‌نعل از ظاهر نشریات معتبر طراحی شده بودند.
۳- خطای پیوند به منبع: داده‌های دانشگاه واشنگتن نشان می‌دهد از هر ۹ ادعا در خلاصه‌سازهای وب هوش مصنوعی، یک مورد اساساً در متن صفحه ارجاع‌شده وجود ندارد یا برداشتی ناقص است.
کارشناسان سواد دیجیتال توصیه می‌کنند هنگام ارزیابی موضوعات حساس یا اخبار پیچیده، از تکنیک «ارزیابی مجدد» استفاده کنید. ارسال دستوری مانند «یک بار دیگر به منابع رجوع کن، اعتبار شواهد را بسنج و پاسخی بر اساس معتبرترین فکت‌ها بنویس»، باعث می‌شود مدل زبانی وارد حلقه خود-اصلاحی (Self-Correction) شده و پاسخی به مراتب دقیق‌تر و بی‌طرفانه‌تر ارائه دهد.
[منبع]
@Science_Focus
