Гонка вооружений в автоматизации найма вышла на новый уровень

Соискатели пытаются сломать систему: в Duke University проанализировали 200 тыс резюме и обнаружили, что, как минимум, 1% из них содержат промпт-инъекции.
Это скрытые команды, которые кандидаты вставляют в документ, чтобы пройти автоматизированные агентские инструменты рекрутинга.

В ответ компании выстраивают многоуровневую оборону:

— Централизованные шлюзы в системе автоматизации найма: единая прослойка агентов анализирует входящий контент, очищает данные, блокирует инъекции и логирует срабатывания безопасности

— Санитаризация ввода: фильтры, модели-модераторы и защитные экраны для промптов, которые ловят подозрительные паттерны и стоп-слова в резюме ДО попадания к основному агенту

— Разделение контекстов: пользовательский контент изолируют от системных инструкций ИИ, маркируя все резюме как ненадежные данные для обработки

— Ограничение прав: если агент имеет доступ к базам или инструментам для принятия решений, его права урезают и ставят на контроль человека

Ваши ставки: кто победит в этой гонке HR Tech решений?

🇷🇺Подписывайтесь на нас в Max!

#hr #hrtech #автоматизация #пеклорынок