Буквально в течение последних 2 дней на фоне протестов в США компании Amazon и IBM отказались от продажи технологии распознавания лиц американским полицейским. Amazon ввели годовой мораторий на продажу своей системы Recognition, в то время как IBM пошла куда дальше, закрыв не только продажу, но и все исследования в области распознавания лиц, а также призвав Конгресс США к масштабной полицейской реформе.

Сам факт того, что технологическая компания призывает к реформе социального института выглядит странно. Но это только на первый взгляд. IBM совершенно обоснованно указывают на проблемы и в технической, и в социальной части работы технологии. Согласно проведенному в MIT исследованию, базы данных, на которых обучаются нейросети для технологии распознавания лиц, на 80% состоят из белокожих людей, а величина ошибки многих систем распознавания для темнокожих женщин составляет 34% (в то время как для белокожих мужчин – около 0,8). С другой стороны, этнографическое исследование в Лос-Анджелевском департаменте полиции, проведенное в 2016 году, показывает, что существующие технологии распознавания лиц усиливают сегрегационные практики по отношению к темнокожим, принятые в полиции. Чтобы система заработала, нужно изменение как в технологии, так и в институциональных практиках. IBM даже призвала к национальному диалогу по поводу системы распознавания лиц.

Эта ситуация, конечно, заставляет задуматься о судьбе этой технологии и в других странах. К примеру, в России, где существует и необходимость реформы полиции, и мы видим полное отсутствие публичного разбора того, как технология работает, какова ее точность и каким образом она может быть использована во благо или ей можно злоупотребить. На самом деле, сейчас необходимо хотя бы первичное описание того, что эта за система, как она появилась и каковы ее перспективы.

Ольга Агапова (@agapova_ol), студентка первого потока магистерской программы Европейского университета и ИТМО «Наука и технология в обществе», работает как раз над этими задачами: понять, какова была история технологии распознавания лиц в России, как она устроена сейчас и какие смыслы придаются ей со стороны как ее защитников, так и страстных критиков. Потому что, кажется, что, чтобы улучшить что-то (а технология распознавания лиц точно нуждается в улучшении), необходимо сначала это понять.

В этом году мы (@nck_rudie, @zemnukhova и коллеги из ЕУ и ИТМО) набираем второй поток студентов, которым интересно заниматься распутыванием паутины из социального, технического, морального и местами политического, чтобы предлагать широкой публике и экспертам более ясную и полную картину развития технологий в обществе. Будем рады всем, у кого эта цель вызывает искренний интерес!