Ты умный, но мы тебя не любим: феномен algorithm aversion
#AI #21век #bias

Результаты нашего опроса неудивительны. Во-первых, валидность и надёжность методов digital assessment пока не подтверждена научными исследованиями (Woods et al., 2020). Это не значит, что методы плохие. Это значит только то, что пока нет оснований утверждать, что они хорошие. Но это еще полбеды.

Не менее важная проблема — отношение к таким методам со стороны живых людей — как рекрутёров, так и кандидатов. Отдельные исследования показывают, что соискатели считают интервью с человеком и с ИИ в равной мере "справедливыми" (Suen et al., 2019). Однако большинство исследований подтверждают, что digital-интервью пользователи не любят и проходить не хотят (Langer et al., 2017). Даже интервью с рекрутёром посредством видео-конференции соискатели воспринимают как менее справедливые и менее желательные, чем "живые" (Chapman et al. 2003; Sears et al., 2013).

Но даже в ситуациях, когда эффективность и надёжность алгоритмов проверена и подтверждена, люди всё равно предпочитают их избегать. Этот феномен в психологии получил название algorithm aversion - буквально, избегание алгоритмов.

Представьте ситуацию. Вы едете на работу, и на привычном маршруте как-то непривычно много машин. Вы решаете изменить маршрут и попадаете в настоящую пробку. Опоздав на работу на полчаса, вы узнаете от коллеги, что на привычном маршруте все было совсем неплохо как раз после того места, где вы свернули. «Обидно, но с кем не бывает», - скажете вы. Но если вы изменили маршрут по подсказке GPS навигатора и встали по его вине в пробку, то навигатору не поздоровится! После такого вы вполне можете обидеться на навигатор, перестать им пользоваться или даже сменить приложение.

Люди склонны прощать ошибки в прогнозах себе и другим людям, но не прощают их алгоритмам (Dietvorst et al. 2015). Алгоритмами мы будем называть любые решения для прогнозирования, которые основаны на данных — evidence-based forecasting methods – статистические модели, процедуры и правила принятия решений, а также нейросети с подтвержденной точностью прогнозов.

Ни один метод прогнозирования в социальных науках не даёт точность в 100%. Исследования последних 70-ти лет показывают, что алгоритмы превосходят людей в точности прогнозов (Meehl, 1954; Grove et al., 2000; Silver, 2012). Но несмотря на это, люди с завидным упорством продолжают выбирать «человеческий» прогноз и избегают алгоритмов, если хотя бы раз видели, что его прогно оказался ошибочным. Например, несмотря на то, что эффективность неструктурированного интервью для оценки кандидатов достаточно низкая, большинство руководителей продолжают считать такой метод наиболее эффективным и предпочитают именно его (Highhouse, 2008).