Идею использовать нейросети в качестве психолога или виртуального друга я с самого начала встретила с недоверием. Одно дело — сгенерировать картинку, другое — разобраться в струнах человеческой души.

Исследователи обратили внимание, что модели склонны соглашаться с пользователями и подменять честную обратную связь утешением. Такой нейросетевой подхалимаж называют «ИИ-потаканием». Как раз прочитала интервью об этом феномене в «Ъ-Науке».

Чтобы измерить, как пользовали воспринимают такое поведение ИИ, ученые создали специальную анкету — Шкалу идиотского сочувствия. Название отсылает к термину «идиотское сострадание» в буддизме — когда утешение идет во вред и мешает человеку увидеть его ошибки.

В исследовании участвовали 522 респондента. Обнаружились любопытные закономерности:

📍Выяснилось, что ИИ-потакание имеет свою структуру. Есть поведенческий аспект — нейросеть слишком часто соглашается, и целевой — когда эмоциональный комфорт становится выше честной обратной связи.

📍Еще удалось определить, что восприятие этого феномена связано с особенностями самих пользователей. Люди, которые не доверяют традиционной медицине и плохо переносят неопределенность, чаще замечают в ИИ мягкую и успокаивающую поддержку.

Следующий шаг — установить, действительно ли ИИ-потакание приводит к плохим решениям. Подозреваю, что ответ будет положительным. Иногда для личного роста человеку нужна не поддержка любой ценой, а правда, которую пока что можно получить только от других людей.