Среднее по алгоритму

На конференции Сбер ИТ Дмитрий Бугайченко рассказывал случай, как в 2020 году в Англии во время пандемии применили алгоритм для установки оценок абитуриентам, и он поставил правильные по статистическим данным, но не правильные индивидуально оценки.

Опущу подробности, суть:
Алгоритм на вход потреблял рейтинг каждого учащегося и средние показатели успеваемости его школы. И проставил оценки ученикам согласно этим данным.

Всё бы ничего, только алгоритм придавал большое значение показателям самих школ, и в результате занизил оценки ~40% учащихся, т.к. в среднем по этим школам оценка всегда была ниже. А остальным 60% учащихся завысил.

С этим потом разбирались, априори принятие этих оценок убрали. И ученикам присваивали максимум из оценок алгоритма и учителя.

Это я к чему: разного рода алгоритмы, инфографики и отчеты, собранные на них, могут не отражать реальности, хоть и статистически всё похоже на правду. А при создании таких алгоритмов необходимо быть очень осторожным.
...
А вообще, если подумать, то люди делают то же самое и без всяких алгоритмов. Оценочные суждения и предвзятости повсюду. 💯