Словарь юного HCI

Автоматизационное искажение (automation bias) — это склонность людей отдавать предпочтение рекомендациям автоматизированных систем поддержки принятия решений и игнорировать противоречащую им информацию, полученную без участия автоматизации, даже если она верна. Это искажение берёт начало в литературе по социальной психологии, где было обнаружено смещение в межличностном взаимодействии: люди дают более положительную оценку решениям, принятым другими людьми, чем нейтральному объекту. Аналогичное позитивное смещение было выявлено и во взаимодействии человека с автоматизированными системами, где автоматизированные решения оцениваются более позитивно, чем нейтральные.

Этот вид искажения становится всё более серьёзной проблемой при принятии решений, поскольку отделения интенсивной терапии, атомные электростанции и кабины пилотов самолётов всё активнее внедряют компьютеризированные системы мониторинга и средства поддержки принятия решений, чтобы по возможности исключить человеческую ошибку. Ошибки, связанные с автоматизационным искажением, как правило, возникают тогда, когда принятие решений зависит от компьютеров или иных автоматизированных средств, а человек выполняет роль наблюдателя, сохраняя при этом возможность принимать решения.

Примеры такого искажения варьируются от серьёзных ситуаций — например, управления самолётом на автопилоте — до вполне обыденных, таких как использование программ проверки орфографии.

https://en.wikipedia.org/wiki/Automation_bias

https://thedecisionlab.com/biases/automation-bias