Иллюзия эффективности или что-то пошло не так с ATS
Тема ИИ не отпускает. И это не случайно: данную технологию без преувеличения можно назвать прорывной, меняющей мир и нас с вами. ИИ как подспорье в решении любых профессиональных задач трудно переоценить. Поэтому полностью согласна с вашими рассуждениями под предыдущими заметками, что ИИ надо осваивать как можно скорее, особенно отстающей госслужбе.
Но самое интересное возникает тогда, когда применение ИИ сталкивается с интересами живых людей. И вот тут все не так однозначно. Если компания передает принятие кадровых решений алгоритмам, она неизбежно сталкивается с эффектом «обратного давления»: соискатели и сотрудники начинают приспосабливаться под систему. Возникает не автоматизация, а соревнование — человек против модели.
На прошлой неделе проводила стратегическую сессию для руководителей высшего звена крупного игрока на российском финансовом рынке. В числе прочего вышли на обсуждение кадровой стратегии в области найма. Руководители поделились итогами внедрения ATS (Applicant Tracking System — система отслеживания кандидатов) в их организации. Напомню, что данные системы собираются на базе ИИ и берут на себя почти все функции воронки найма: создание базы данных соискателей, объявления о вакансиях, первичный отбор по резюме, автоматизированное взаимодействие с кандидатами, подготовку аналитики и отчетов.   Система была внедрена около 1,5 лет назад, что позволило сократить 8 позиций рекрутеров и снизить сопутствующие операционные расходы. На горизонте первого года — классический «быстрый выигрыш» от автоматизации.
Но уже через год проявились системные эффекты второго порядка:
1.               Снижение качества найма.
Алгоритмы оптимизируют под заданные признаки, а не под потенциал. В результате отбор стал смещаться в сторону «формально подходящих», но менее адаптивных кандидатов. Просели широта мышления и общий кругозор, снизилась способность к нововведениям. Это типичная проблема алгоритмизированных моделей: они усиливают существующие критерии, но плохо работают с оценкой будущего потенциала.
2.               Рост ложноположительных кандидатов
Соискатели начали «играть против системы». Используя те же инструменты ИИ, они оптимизировали резюме под алгоритмы. В результате система пропускала больше неподходящих кандидатов, что увеличило нагрузку на финальные этапы и удлинило время найма.
Что важно нам с точки зрения аналитики:
1.       —  модели машинного обучения и ATS чувствительны к качеству обучающих данных. Если вложенные сведения содержат искажения или устаревшие требования, система будет масштабировать эти ошибки.
— алгоритмы плохо учитывают стратегические изменения бизнеса, если не настроен регулярный пересмотр признаков и весов.
— возникает эффект закона Гудхарта: как только мера становится целью, ее начинают оптимизировать в ущерб качеству.
2.      В классической модели рекрутер адаптирует критерии «на лету», учитывая контекст бизнеса. В ML-модели это требует формализованной перенастройки: пересборки данных, переобучения модели, подтверждения истинности, — что значительно медленнее и дороже.
3.      Дополнительный фактор — «обобществление знаний». Сегодня кандидаты массово изучают, как работают ATS (в том числе с помощью ТГ-каналов со всякими готовыми хитростями), и используют генеративный ИИ для оптимизации профилей. Это снижает способности системы к качественному отбору.
 
В результате мой клиент столкнулся с парадоксом автоматизации:
— для поддержки ATS были наняты 2 IT-специалиста и 2 HR-аналитика
— их совокупная стоимость превысила фонд оплаты труда сокращенных рекрутеров
— дополнительно выросли косвенные потери: удлинение найма, снижение качества нанимаемого персонала, просадки в производительности.
Итог — к концу второго года отрицательный ROI внедрения.
Ключевой вывод:
ИИ в управлении персоналом — это не инструмент сокращения издержек, а инструмент усложнения системы управления. Он требует новых компетенций, постоянной переналадки и гибридной модели «человек + алгоритм». Компании, которые рассматривают ATS как способ заменить рекрутера, почти неизбежно проигрывают. Выигрывают те, кто используют ИИ как усиление экспертизы, а не ее замену.