گوگل در طی روزهای گذشته قابلیت AI Overview رو برای تمام کاربران امریکایی عرضه کرده که در هنگام جستجو، عمده صفحه پیش فرض نتایج با جوابهای هوش مصنوعی پر میشه و به سوالات کاربران جواب میده. ولی جوابهایی که در این مدت به کاربران میداده به شدت اشتباه بودن و باعث جنجالهایی شده!

از جمله اونها این هست که برای نچسبیدن پیتزا میتونین به اون چسب بزنین، خوردن روزی یک سنگ کوچیک رو پیشنهاد داده، اگر افسرده هستین میتونین خودتون رو از پل پایین پرت کنین، از گازوئیل برای پختن اسپاگتی میتونین استفاده کنین و خوردن کون باعث تقویت سیستم دفاعی بدن میشه!

این قضیه یکی از مشکلات مدلهای زبانی بزرگ (LLM) هست که درکی از واقعیت ندارن و براساس دیدن چنین جوابهایی (که گاها مسخره بازی و جک در سایتهای مختلف هستن) اونهارو به عنوان فکت به کاربران نشون میدن.

به لطف سهم بالای گوگل از بازار موتورهای جستجو، جوابهای هوش مصنوعی گوگل در دسترس افراد بسیار بیشتری نسبت به بقیه ابزارهای هوش مصنوعی هستن و چنین اشتباه هایی بسیار بیشتر از بقیه خودشون رو نشون میدن.

وضعیت در حدی بوده که گوگل حالا جوابهای اشتباهی که در شبکه هایی اجتماعی منتشر میشه رو بعد از مدتی به طور دستی از صفحه نتایج گوگل حذف میکنه و برای اون عبارات بخش AI Overview رو نشون نمیده.

🔎 theverge

📍 @TechTube