Нейросети превратили найм в лотерею

HackerRank выложили в открытый доступ систему для оценки резюме при помощи ИИ. Инструмент стал невероятно популярным среди рекрутеров. Программа парсит файлы и скармливает данные языковой модели для выставления баллов. Учитываются навыки, опыт работы и личные проекты на GitHub. Звучит как отличная автоматизация скучной рутины.

Однако один разработчик решил проверить систему и прогнал свое резюме сто раз подряд. Результаты оказались пугающими. Совершенно идентичный файл получал оценки от 66 до 99 баллов. При проходном пороге в 85 баллов кандидат получает отказ в шестидесяти пяти процентах случаев просто по воле случая. Модель стабильно распознает базовые навыки, но при попытке оценить сложность проектов начинает выдавать случайные числа и каждый раз генерирует абсолютно разные вердикты.

Самая большая проблема кроется в оценке профессионального стажа. Запрос для этого раздела состоит всего из пары строк без подробных критериев. В итоге студент с одной стажировкой и опытный архитектор получают одинаковый максимальный балл.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX