Раса и технологии

Представители IBM недавно объявили, что больше не будут заниматься исследованиями в области распознавания лиц. CEO компании Арвинд Кришна в письме для Конгреса даже вспомнил о том, как в 1950-ых годах IBM отказались от расовой сегрегации на рабочих местах. В тексте также содержится ряд предложений по продвижению расового равенства.

Подобное событие не было бы возможно без долгой работы исследователей, правозащитников и журналистов по раскрытию алгоритмической предвзятости (algorithmic bias) по расовому и гендерному признаку. И такой деятельности слишком много, чтобы перечислить в одном посте более или менее исчерпывающе, но кажется важным немного написать об этом и дать ссылки на другие ресурсы по теме расы и технологий. 

Более того, сейчас как никогда важно говорить о том, что это во многом достижения именно небелых профессионалов из разных областей. Меня также вдохновили схожие списки 1 и 2 от каналов @nyphilosophy и @impossibleworlds. 

Несколько ссылок по теме раса и технологии:

👁 Движение Algorithmic Justice League, основанное Джой Буламвини, бывшей студенткой и исследовательнице в MIT, которая в своей работе подчеркивала, что программное обеспечение в сфере распознавания лиц неодинаково относится к разным группам. Вместе с другой черной исследовательницей Тимнит Гебру они сделали проект Gender Shades про то, насколько алгоритмы разных компаний успешны в распознавании лиц людей разных гендеров и рас. 
🖤 Книга черной исследовательницы Рухи Бенджамин Race After Technology, здесь ее выступление на 30 минут про ее работу, а там про то, как технологии оказываются раз за разом расово окрашены. Сам я книгу пока не читал, но очень хочется. Бенджамин также основала Just Data Lab, где исследователи, активисты и художники объединяются для того, чтобы попытаться перепридумать, как возможно иначе обращаться к данным и действовать на их основе.
⚖️ Книга Dark Matters: On the Surveillance of Blackness прослеживает долгую историю технологий, используемых для наблюдения за черным населением. Вот тут Симона Браун рассказывает о своей книге.  
📚Тут давал ссылку учебный план курса по Critical Race & Digital Studies, это подальше от алгоритмов, больше в сторону исследований интернета и цифровых культур, но тоже про расу

И все это дело, конечно, далеко не ограничивается и не заканчивается на распознавании лиц, это только часть системной проблемы, и либеральные решения в рамках антидискриминационного законодательства тут далеко не всегда помогают. Об этом в контексте дискриминации на основе данных есть замечательная статья Анны Хоффманн, о ней может напишу попозже.