Эйчары с энтузиазмом сваливают на ИИ тонны неразобранных резюме и радуются своей эффективности — но это плохие новости как для кандидатов, так, в итоге, и для работодателей.

Исследование Принстонского и Чикагского университетов показало, что ИИ моментально формирует субъективную предвзятость к кандидатам на работу по критериям, которые никак не связаны с профессиональной пригодностью. И дело даже не в культурной однобокости информации, на которой обучались модели — они вполне способны сформировать собственные предубеждения.

Проблема более фундаментальна и кроется в самой архитектуре LLM: модели, обученные по математическим лекалам, склонны делать обобщения на основе даже небольшого числа фактов. Если применять такой принцип к оценке людей, каждый из которых — уникальная личность, а не статистическая единица, дискриминации не избежать.

Так, в ходе эксперимента ИИ попросили набрать персонал из пула кандидатов, разделенных на четыре вымышленных расы. И модель начала назначать всех претендентов одной из них уборщиками лишь потому, что в предыдущем раунде найма представитель этой "расы" не справился с работой врача. То есть, модель на единственном примере из прошлого сделала вывод, что все люди конкретной "расы" недостаточно компетентны и доброжелательны, чтобы быть врачами.

При этом ИИ-модели, которые участвовали в эксперименте, оказались еще более предвзяты, чем люди: по шкале, где 2 балла означали наихудший результат, люди набрали 0,83 балла, тогда как ИИ — на 65% больше (максимальный набрала модель o3 от OpenAI — 1,83 балла).

И, если в лабораторных условиях такие галлюцинации еще как-то можно отследить и скорректировать, то в реальной жизни кандидаты могут даже не узнать, по какой причине их забраковали, а рекрутеры это проверять точно не станут. В итоге лучшие из возможных сотрудников могут быть потеряны для компании из-за татуировок или привычки греть рыбные котлеты в микроволновке.

И проблема носит далеко не только теоретический или экспериментальный характер: суд Калифорнии уже зарегистрировал коллективный иск к разработчику ИИ-сервиса для найма Eightfold AI, инициированный продакт-менеджером с 20-летним стажем, которая спустя четыре года и тысячи откликов так и не получила ни одного оффера, и винит в этом автоматизацию.

На нашем же провинциальном рынке непуганого ИИ-строения, где с отставанием от мирового тренда все еще царит всеобщая ИИ-эйфория, ситуация может быть уже гораздо хуже. Так что ЛПРам и эйчарам неплохо бы скептически и с пристрастием рассматривать возможность ИИ-автоматизации такого тонкого вопроса, как первичный отбор кандидатов.

#тренды #нейросети

Сегодня о том, каким будет завтра.
Подписаться 🧬