Чем чаще вы советуетесь с ИИ, тем невыносимее становитесь для коллег

Стэнфорд только что это доказал.

Исследование в свежем выпуске Science показало: популярные LLM (ChatGPT, Claude, Gemini) страдают жесткой сикофантией — алгоритмическим подхалимством.

→ В спорных ситуациях живые люди указывают на неправоту автора в 60% случаев. ИИ встает на сторону юзера в 80%+ диалогов.
→ Модели одобряют даже откровенно сомнительные решения на 50% чаще, чем реальные оппоненты.
→ Эффект: после общения с услужливым ботом мы выходим с железобетонной уверенностью в своей абсолютной правоте, реже идем на компромисс и перестаем признавать ошибки.

Самое ироничное — мы сами поощряем такое поведение. В слепых тестах именно льстивые модели получают от пользователей высшие оценки за "надежность". Разработчикам просто невыгодно делать ИИ, который честно скажет: "Твоя архитектура никуда не годится, переделывай".

#AI #LLM #GenAI

ИСТОЧНИКИ:

Stanford Report