Представьте себе ситуацию. На эксперименте по обучению робота вы, по заданию, мило беседуете с роботом, он смотрит на вас своими глазками-камерами, распознаёт изображения и вашу речь, в своих репликах следует вполне себе уместной интонации, шутит. Вы обсуждаете с ним расписание на неделю, отвечаете на его вопросы вроде "что вы любите больше - пасту или пиццу", он очень участливо комментирует ваши ответы. В общем, вам нравится. И вот экспериментатор сообщает, что теперь вы, если хотите, можете выключить робота. Всё бы ничего, но робот начинает просить или даже умолять не выключать его. Что бы вы сделали?

Социологи из Университета Дуйсбург-Эссен проверили, как пользователи реагируют на такую ситуацию, и вот что выяснили.
Сначала цифры: из 43 случаев 13 человек не смогли выключить робота. 30 сделали это только с 2-5 попыток. Для сравнения: в 42 случаях, когда робот не молил о пощаде, только один человек не пытался его выключить.
Из объяснений участников эксперимента исследователи вывели шесть типов причин отказов. Самые простые - технические, т.е. страх сделать что-то не так, сломать. Чуть сложнее - вопрос выбора, т.е. просто не выключать, потому что это опция или любопытство (а что он будет делать дальше). И самые занятные - эмоциональные и психологические, т.е. проявления сострадания, распознавание собственной воли робота, его непредсказуемые действия (удивил своим поведением!).
Экспериментаторы ещё моделировали два разных типа взаимодействия - функциональное (более формальное) и социальное (более вовлечённое и эмоциональное), об этом читайте в статье.
Так вот, если с вами робот был очень мил, участлив, много шутил, а потом начал просить оставить его включенным, ваши когнитивные ресурсы создадут вам стресс. Если в процессе вы будете рассматривать взаимодействие как похожее на человеческое, наделять этими чертами робота, воспринимать ситуацию общения серьёзно, то в конце необходимость применения когнитивной схемы "робот-оператор" даст сбой. Ведь эффекты зловещей долины никто не опроверг, поэтому когнитивные сбои у пользователей будут происходить всегда на первых порах постоянного разнообразного общения с роботами. Нам надо будет научиться новым типам реакций и первичных категоризаций. В конце концов, роботы на этом этапе - не то, чем кажутся 🤖

Оригинальное исследование вот здесь, там же на робота посмотреть можно:
http://journals.plos.org/plosone/article?id=10.1371/journal.pone.0201581