Может ли ИИ вносить предвзятость в отбор, т.е. дискриминировать соискателей? И зависит ли это от данных, на которых он тренировался ❓
Да, алгоритм может дискриминировать. Но тут важно помнить, что, в отличие от ИИ, человек-рекрутер не только может, но точно будет дискриминировать. Прежде всего, по навыкам и опыту, но также по возрасту, полу, по тому, как вы выглядите на фотографии, что пишете в соцсетях, по национальности и т.д.
Даже если это неэтично или незаконно, все равно люди это делают, именно потому, что они люди 🤷♂️
То, как алгоритм оценивает резюме кандидатов, зависит и от выборки данных, на которой он тренировался, и от логики алгоритма, и от архитектуры всего решения.
Например, если вы обучали алгоритм на данных конкретной компании, в которой большинство сотрудников - это мужчины в возрасте от 25 до 35 лет и самое распространенное имя у них Андрей, у которых любимый спорт футбол, то, вероятно, что такой алгоритм оценит кандидата, которого зовут Андрей, которому 30 лет и он любит играть в футбол, выше, чем другого кандидата по имени Наталья, которой 45 лет и которая любит театр 🤔
Но такого искажения можно избежать. Например, мы тренировали наш алгоритм на данных об отборе и наймах более 200 наших клиентов, что диверсифицировало выборку. Кроме того, при обучении алгоритма были исключены данные о ФИО, возрасте и поле кандидатов, их контакты и другие данные, которые были несущественными для целей обучения. То есть при определении релевантности наша модель учитывает только то, что имеет значение для определения, подходит кандидат под требования вакансии или нет 📊
Конечно, нужно помнить, что модель оценивает именно резюме. Поэтому, если оно написано плохо или не соответствует вакансии, на которую кандидат откликается, то результат ожидаемо будет низкий, независимо от того, каков сам кандидат "на самом деле" 📝🤓
Окончание завтра. А пока ответьте на вопрос:
Сталкивались ли вы с дискриминацией и как вы считаете, кто будет дискриминировать кандидатов меньше - ИИ или человек❓
#ИИинтересно
#юзкейсы
#будущееработы
#онас
Подписывайтесь на @aiworkfuture, чтобы ничего не пропустить