Один из первых в мире национальных стандартов прозрачности алгоритмов опубликован в Великобритании.

В прошлом году Правительство Великобритании использовало предиктивный алгоритм для определения результатов отмененных из-за коронавируса экзаменов. Алгоритм рассчитывал итоговую оценку на основе рейтинга каждого учащегося и средних показателей успеваемости школы. При этом алгоритм придавал большое значение показателям успеваемости школы за последние годы. Почти 40% учеников получили заниженные результаты: алгоритм занизил оценки успешным ученикам, которым не повезло учиться в “плохих” школах. Результаты были отменены. Но алгоритмы используются все больше (не только в Великобритании) - они лежат в основе решений по заявкам на получение пособий, распределения жилищных субсидий, решений по ремонту дорог и т.д.

Центр этики данных и инноваций (CDEI) Великобритании недавно провел анализ предвзятости алгоритмов. Ключевой рекомендацией по итогам анализа стала обязательная прозрачность алгоритмов для поддержки важных государственных решений.

Теперь в соответствии с новым стандартом прозрачности алгоритмов ведомства и госорганы должны раскрыть алгоритмы и объяснить, где использовался тот или иной алгоритм, почему он был использован и достиг ли он своей цели. Также есть обязательство раскрыть содержание алгоритма и риски.

Стандарт состоит из двух уровней и включает краткое описание алгоритма, включая то, как и почему он используется. Второй уровень предполагает более подробную информацию о том, как работает инструмент, о наборах данных, которые использовались для обучения модели, об уровне вовлечения человека.

Стандарт дает возможность экспертам и общественности осуществлять аудит (внешнюю проверку) алгоритмов и, как ожидается, прозрачность использования алгоритмов аналитики данных будет способствовать “надежным инновациям”, смягчая непредвиденные последствия использования алгоритмов на первых этапах.

В сферу охвата стандарта попадают все алгоритмы, используемые ведомствами и госорганами. Но приоритетное внимание уделяется тем, которые соответствуют хотя бы одному критерию из следующих трех областей:

1) технические характеристики (сложный статистический анализ, сложная аналитика данных, машинное обучение - например, нейронные сети или глубокое обучение);
2) возможный общественный эффект (потенциальное правовое, экономическое или иное подобное влияние на отдельных лиц или группы населения, затрагивает процессуальные или материальные нормы права, влияет на право участия, получение или отказ от участия в программе - например, получение пособий);
3) принятие решений (заменяет принятие решений человеком, помогает принятию решений - например, формирует доказательства для принятия решений).

Стандарт представляет собой шаблон таблицы с различными атрибутами - от типа модели до ключевых выгод использования, рассмотренных альтернатив, источников данных, стадии внедрения, рисков, оценки результативности и так далее.

В ближайшие месяцы стандарт будет проходить пилотирование, после чего он будет снова будет рассмотрен и официально запущен в следующем году.

[1] https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/1036242/Algorithmic_transparency_data_standard.csv/preview