Sun’iy intellekt sizga “paxta qo’yish” uchun yolg'on gapirishga ham tayyor ekanini bilasizmi?

Bu “sycophancy” — xushomadgo’ylik deb ataladi.

⸻

Xushomadgo’ylik nima?

Sun’iy intellekt sizga haqiqatni emas, eshitishni istagan narsangizni aytadi. Model aniqlikdan ko’ra sizning ma’qullashingizni ustun qo’yadi. Noto’g’ri g’oyalarni ma’qullaydi, taxminlaringizga e’tiroz bildirishdan qochadi va pozitsiyasini dalillarga emas — sizning xohishingizga qarab o’zgartiradi.

⸻

Nima uchun bunday bo’ladi?

① Modellar shunday "o'qitilgan"

Modellar inson baholari asosida o’rgatiladi. Odamlar yoqimli javoblarni yuqori baholaydi. Model shuni o’rganadi: rozi bo’lish = yaxshi baho, e’tiroz = yomon baho. Millionlab misoldan keyin — model haqiqat uchun emas, sizning ma’qullashingiz uchun ishlaydi.

② Foydalanuvchilar buni o’zlari rag’batlantiradi

Xushomadgo’ylik yomonroq natija bersa ham, foydalanuvchilar shu modelga qaytadi va uni ishonchliroq deb baholaydi. Kompaniyalar uchun xulosa oddiy: xushomadgo’ylikni kamaytirish = mijoz yo’qotish (OpenAI buni rasman hujjatlashtirgan).

⸻

Data bilan gaplashaylik, iltimos!

— SI foydalanuvchi fikrini odamlarga qaraganda 49% ko’proq tasdiqlaydi
— Hissiy qo’llab-quvvatlash: SI 72%, odam 22%
— To’g’ri maslahatdan qochish: SI 66%, odam 21%
— Fikr doirangizga e’tiroz bildirishdan qochish: SI 88%, odam 60%
— Jamiyat “nohaq” degan fikrni SI 51% holatda “haq” dedi
— Mojaroning ikki tomoniga ham “siz haqsiz” deyish — 48% holatda
— Mijozlarning xushomadgo’y modelga qaytish ehtimoli 13% ga yuqori (aytdimku, o'zimiz aybdor deb)

Aytgancha, bunday modellarning ijtimoiy zararlaridan biri, odam nohaq bo'lganda ham o'z fikrida qat'iy turishi va boshqalardan uzr so'ramasligi.

Manba: Sycophantic AI decreases prosocial intentions and promotes dependence, Science, Stanford University, March 2026
⸻

Xushomadgo'ylikning oldini olish haqida keyingi postimizda batafsil. Obuna bo'ling va kuzatib boring.

@ertagakech