Как ИИ мотивирует людей врать 🤥

Нашла исследование о том, что пользователи чаще обманывают AI-помощников, чем живых людей. И о том, как компании могут снизить эти риски.

🔸 Эксперимент 1
128 студентам предложили выбрать репетитора на онлайн-сервисе. Всем дали купоны на $5 и $2. Скидку $5 можно было использовать один раз и только тем, у кого студенческий ID оканчивается на 4 или 5. Условия озвучивал либо ИИ-агент, либо живой оператор.

Результат: с ИИ схитрили 54,7% участников (использовали купон без права или несколько раз). С человеком — 40,6%.

🔸 Эксперимент 2
137 участников получили задание: оформить возврат покупки на онлайн-сервисе. По правилам возврат платный, кроме случаев, если не подошел размер или товар не совпал с фото. Одни делали это через ИИ-помощника, другие — через живого оператора.

Результат: ложные причины для возврата указали 61,7% в условиях ИИ и 41,1% в условиях человека.

🔸 Эксперимент 3
150 участников, которые имели опыт общения с Алексой (Amazon), прошли аналогичный второму эксперимент. На этот раз они оформляли возврат через чат с живым оператором и с Алексой. Перед заданием все заполнили опрос: воспринимают ли они Алексу как компаньона или только как функцию.

Результат: для тех, кто воспринимал Алексу только как функцию, вероятность неэтичного поведения была выше на 22,65%, чем для тех, кто считал Алексу компаньоном. А разница между обманом Алексы-компаньона и человека статистически не была значимой!

👀 Есть еще классное исследование о том, как личность и тональность общения помощника влияет на фрод. Скоро тоже поделюсь.