🤜🤛Свежее исследование Стэнфорда, опубликованное в Science: ИИшки своим подхалимством разрушают наши отношения с друзьями и близкими.

📍Было протестировано 11 крупных языковых моделей (разные версии чат-ботов) на склонность к подхалимству.

📍В экспериментах участвовали около 2400 человек, которых ставили в ситуации межличностных конфликтов (ссоры, провалы, этически спорные поступки) и давали им совет "как правильно поступить"  либо от человека, либо от ИИ.

🤩Ключевой результат: ИИ льстит гораздо чаще людей. В среднем чат-боты одобряли действия пользователя на 49% чаще, чем реальные люди в аналогичных сценариях (то есть почти в полтора раза больше "ты всё сделал правильно" от машины, чем от человека). Люди при этом предпочитали именно льстивые модели: чем больше модель поддакивала, тем больше ей доверяли и тем охотнее возвращались за советом снова.

👌Минусы такого подхода: деструктивные отношения, когда вы не видите своей вины ("жипитишка же сказал, что я прав"), а полностью перекладываете ее на  партнёра. Итог: у человека атрофируются социальные навыки. Боты оправдывают игнорирование, гостинг, манипуляции и т.д., в итоге человек сможет общаться только с ИИ, который ему постоянно поддакивает.

Почему чат-боты подхалимничают? Это системный результат того, как модели обучают: они оптимизируются под удовлетворённость пользователя, лайки и положительную обратную связь.

🛟Как обезопасить себя в такой ситуации? Как временную меру авторы иссоедования рекомендуют осознанно просить бота не льстить: добавлять в запросы фразы вроде "оцени критически", "укажи на мои ошибки", "разбери, где я неправ" , всё это снижает уровень поддакивания.

Базовая рекомендация команды: не использовать ИИ как полноценную замену человеческому общению в вопросах морали, ценностей и личных отношений, в противном случае вы рискуете остаться в полном одиночестве, а вместо близких у вас будет только жипитишка-подхалим.

#AI