Об этичности технологий распознавания лиц ведутся споры уже несколько лет. Некоторые игроки рынка пытаются сгладить недостатки таких систем — как Meta*, которая помогает выявить разного рода предрассудки в идентификации людей по камерам. В то же время, число стран, где ведётся real-time наблюдение за всеми гражданами, растёт — их число может пополнить Великобритания.
♾ Meta* выпустила инструмент FACET, предназначенный для выявления расовых и гендерных предубеждений в системах компьютерного зрения.
FACET основан на более чем 30 000 изображений, на которых изображены 50 000 человек. Все лица в базе данных помечены различными тегами. FACET помогает обнаружить уровень предвзятости систем, например:
➖ влияет ли на определение пола то, что делает человек в кадре (например, склонна ли нейросеть считать скейтбордистов обязательно мужчинами);
➖ одинаково ли хорошо система справляется с распознаванием лиц со светлой и темной кожей;
➖ влияет ли на систему распознавания, какие у человека волосы — вьющиеся или прямые.
Вопрос об этичности и точности систем распознавания лиц долгое время останавливал правительства разных стран от их масштабного использования.
🇬🇧 В среду правительство Великобритании опубликовало документ, в котором обозначены планы развернуть использование биометрических систем распознавания на национальном уровне в течение 12-18 недель. Отдельно правительство выразило заинтересованность в технологиях ИИ для распознавания лиц.
Однозначной поддержки этого решения нет: ранее депутаты призывали ввести мораторий на использование систем распознавания лиц до тех пор, пока парламент не примет законы, ограничивающие их применение.
Последние 5 лет технологии распознавания используются полицией Южного Уэльса и столичной полицией Лондона. В 2020 году апелляционный суд постановил, что использование систем распознавания лиц полицией Южного Уэльса нарушало права граждан на неприкосновенность частной жизни. Тем не менее, распознавание лиц там используется до сих пор.
Что же касается столичной полиции, то службы метрополитена проводили проверку своей системы и не обнаружили «никакой статистически значимой предвзятости в отношении расы и пола, а вероятность ложного совпадения составляет один из 6000 человек». В этом плане инструменты проверки, подобные FACET от Meta, помогут обеспечить более непредвзятый внешний аудит.
Чиновники, связанные со службами безопасности и минобороны Великобритании, настаивают на важности технологии для общественного порядка. Правда, в отличие от китайского варианта распознавания, когда следят повсеместно и бесконтрольно, в Великобритании настаивают на подготовке законов, обеспечивающих прозрачность применения.
Любопытно, что Европарламент, напротив, движется к полному запрету использования ПО для распознавания лиц с ИИ в общественных местах.
*признана экстремистской в России