Несколько дней назад появилась новость куда более устрашающая, чем робот Игорек. В журнале Science Robotics опубликованы результаты исследования конформного поведения, показывающие, что дети склонны повторять за роботом. Исследователи воспроизвели эксперимент Аша, который заключается в том, что несколько «испытуемых» (а на самом деле подсадных уток) отвечают на простой вопрос заведомо неправильно, и последний (настоящий) испытуемый под давлением чужих ответов в большинстве случаев повторяет ошибочный ответ. Сейчас вместо подсадных уток были антропоморфные роботы Nao, а изучали ответы взрослых и детей. Немного обнадеживает то, что взрослые на такое не повелись. Дети же следуют тому неверному ответу, который дали роботы.

Эксперимент довольно простой, и остается множество вопросов о том, к какому результату привело бы изменение условий – например, поддались бы взрослые влиянию роботов, если бы те выглядели более серьезно, сложно и «компетентно». Тем не менее, он заставляет задуматься о том, что почему мы считываем какие-то действия роботов как неправильные, глупые, ошибочные, а какие-то - нет, а также какие последствия может нести привычка видеть в машинах помощников и ассистентов, созданных для успешного решения задач и обученных давать правильные ответы.
https://www.washingtonpost.com/news/speaking-of-science/wp/2018/08/15/robot-overlords-may-sound-scary-but-robot-friends-could-be-just-as-bad/?utm_term=.8869ad7c1968