Для компаний использование онлайн-тестов и интерактивных заданий в формате игр при найме персонала является удобным инструментом оценки кандидатов.
Но с точки зрения регуляторов такие решения почти всегда подпадают под режим автоматизированного принятия решений, особенно если в основе лежит ИИ.
📝 Нидерландский регулятор (AP) выпустил разъяснения.
1️⃣Современные системы анализируют не только ответы, но и поведение: скорость реакции, паттерны выбора, устойчивость к стрессу.
При использовании этих инструментов тестирования работодатели и оценочные агентства должны прежде всего задать себе вопрос: применяют ли они автоматизированный подход к принятию решений? Это имеет место в следующих случаях:
▪️оценка генерируется полностью автоматически, то есть без вмешательства человека, и
▪️этот балл имеет юридические последствия для заявителя или существенно влияет на него.
По сути, формируется поведенческий профиль кандидата, а это уже не просто тест, а более глубокая оценка личности. Если на основе этого профиля система автоматически принимает решение (например, отсекает кандидата), то действует ст. 22 GDPR и ограничения на такие решения. Необходимо оценить как такое решение влияет на кандидата,обосновать обработку, провести DPIA. Человек должен понимать, как работает система и иметь возможность изменить результат. Проблема игровых тестов в том, что кандидат часто даже не понимает, что именно про него оценивают.
2️⃣Отдельным вопросом выделяется выбор правового основания. Согласие кандидата здесь выглядит очевидным, но на практике оно редко подходит. В контексте найма согласие часто считается несвободным из-за дисбаланса сторон. Поэтому компаниям приходится опираться на другие основания, например, законный интерес.
3️⃣Важно учитывать, какие именно данные обрабатываются. Даже если напрямую не собираются чувствительные данные, система может делать выводы, например, о психологических характеристиках, могут возникать риски выхода на специальные категории данных, для которых действуют отдельные запреты.
4️⃣Регулятор делает акцент на прозрачности. Кандидат должен понимать:
▪️что используется автоматизированная оценка,
▪️какие данные собираются (включая поведенческие),
▪️ как именно формируется результат (хотя бы на общем уровне).
5️⃣ Использование ИИ в таких системах может усиливать риск дискриминации. Модели обучаются на исторических данных и могут воспроизводить предвзятости насчет отдельных категорий лиц. В контексте найма это особенно чувствительно, поэтому подобные решения всё чаще рассматриваются как высокорисковые в логике AI Act.
6️⃣С 2 августа 2026 г. для онлайн-тестирования и игровых оценок, основанных на системах ИИ действуют дополнительное требование, обязывающее поставщика услуг проектировать и разрабатывать систему таким образом, чтобы заявителям было ясно, что они имеют дело с системой ИИ.
❕В итоге использование «игровых» форматов отбора по сути может быть полноценной системой оценки с использованием ИИ, которая требует DPIA, чёткого правового основания, реального участия человека и прозрачности для кандидата.
И чем менее очевидно для пользователя, что его оценивает алгоритм, тем выше требования со стороны регуляторов.
#UXWatch #LawAndDisorder
————
@pattern | AI GDPR Navigator