AI внушает ложную уверенность

Можете добавлять себе еще одно исследование в копилку когнитивных искажений, которые появляются при взаимодействии людей из AI.

В этот раз сделали следующее – выдали группам испытуемых доступ к довольно слабенькой гугловой модели, и задавали им вопросы из категорий, в которых модели часто ошибаются – например, про визуальные детали из фильмов.

Наблюдения вот такие:

👉Доступ к AI снижает вероятность ответа на вопрос "я не знаю" с 44% до 3%.
👉Точность ответов при этом упала с 27% до 9%, а вот уверенность в ответе, наоборот, выросла в 2.5 раза, с 30% до 76%. При этом часть участников были готовы ответить правильно до консультации с AI, а потом поменяли свой ответ.
👉Добавление денежной мотивации почти не помогло, готовность признать незнание поднялась только до 8%, а точность до 16%.