Сегодня — о том, как наша любовь к вечной молодости сыграла с женщинами злую штуку. И при чём тут ваш ИИ рекрутёр.

Я всегда подозревал, что алгоритмы — это мы, только в цифре. И вот подтверждение. Учёные из Nature проанализировали 1,4 млн картинок из интернета (Google, Википедия, IMDb). Оказалось, женщины на фото систематически выглядят моложе мужчин на тех же ролях. Разрыв — до 6,5 лет! В жизни его нет — по данным переписи, в реальности возраст мужчин и женщин в профессиях не отличается. А в интернете — пожалуйста.

Нейросети это усвоили. И теперь GPT, анализируя резюме, автоматически делает женщин на 1,6 года моложе и на 0,9 лет менее опытными. А при оценке резюме ставит высшие баллы зрелым мужчинам. Молодых девушек — «на опыте» — дисквалифицирует. Молодых парней — тоже. Ирония? Железная.

Мы учим ИИ на кривых данных — и удивляемся, когда он выдаёт кривые решения. Девушка с огурцом на лице хотела просто хорошо выглядеть. А в итоге её образ в сети теперь работает против неё — уже на этапе AI-скоринга.

Коллеги, будем честны: нейросети для рекрута уже уверены, что женщины в принципе моложе и «зеленее». Что с этим делать — калибровать, аудитить, или оставить как есть и делать вид, что это «объективные данные»?

P.S. Удалить или заменить фото в запрещёнограме - уже не поможет. Веса у ИИ моделей посчитаны. Что думаете делать ?

#ИИ_на_грани

👍 @chupritski 👍