Решение о получении визы помог оценить ИИ?

Кейс из Нидерландов помогает разобраться, может ли государство использовать алгоритм при принятии решения о выдаче шенгенской визы, но не сообщать заявителю, что алгоритм вообще применялся.

👀 Окружной суд Гааги рассмотрел дело об отказе в краткосрочной шенгенской визе.

В процессе рассмотрения заявлений Министерство иностранных дел Нидерландов использует алгоритм Information Supporting Decision (IOB), который:
▪️анализирует данные заявления и информацию из других источников,
▪️формирует профили и рассчитывает показатель, на основании которого заявлению присваивается один из трёх треков обработки: fast, regular или intensive.
Система IOB не принимает решение о выдаче или отказе в визе, но должна помочь сотруднику определить, насколько интенсивно необходимо рассматривать конкретное заявление. Окончательное решение принимает человек.
Но именно здесь и возникает проблема.

Заявительница утверждала, что использование IOB может приводить к неправомерной дифференциации по национальности, расовому или этническому происхождению. В частности, она ссылалась на исследования, указывавшие на риск алгоритмического этнического профилирования.

Суд сначала в 2025 г. в отдельном решении впервые потребовал от Министерства иностранных дел подробно раскрыть, как используется IOB, включая обработку данных, профилирование и влияние алгоритма на конкретную заявку.

Нидерланды используют Impact Assessment Human Rights and Algorithms (IAMA) (специальный инструмент для оценки того, как алгоритм может затрагивать основные права человека), который было обновлен в феврале 2026г.
Для IOB такое исследование было проведено в декабре 2025, где были выявлены отклонения модели и ситуации, когда сотрудник мог чрезмерно полагаться на подсказку алгоритма.
После этого процесс был скорректирован, были изменены данные и элементы BAO, система была перекалибрована, а также введён отдельный протокол постоянного мониторинга bias.

Суд установил, что IOB в данном деле не повлиял на итоговое решение, заявительница получила regular track и итоговый score составил 0. Поэтому суд не увидел доказательств того, что алгоритмическая классификация определила результат её дела.

✏️Проблемой стала прозрачность использования алгоритма. В решении об отказе Министерство не указало, что IOB применялся к заявлению и какой результат он дал.

Суд подчеркнул, что даже если алгоритм не повлиял на содержание окончательного решения, информация о его использовании может быть необходима для того, чтобы человек мог понять, как рассматривалось его заявление, и эффективно оспорить решение.
Поэтому суд признал нарушенными принципы обоснованности и прозрачности.

В итоге суд отменил оспариваемое административное решение, поскольку были нарушены требования к мотивировке и заявительницу также неправомерно лишили возможности быть заслушанной.
Но одновременно сохранил юридические последствия этого решения, т. е. отказ в визе остался в силе.

❕Если алгоритм участвует в административной процедуре, государство не может просто сказать, что решение всё равно принимает человек, поэтому алгоритм юридически не важен, даже вспомогательная алгоритмическая система может иметь значение для права человека понять и оспорить решение.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator