​​Расизм алгоритмов

Один парень написал в твиттере, что во время общения в Zoom у его коллеги пропадала голова при использовании функции подложенного фона. Ошибка алгоритма, видимо, возникала из-за того, что коллега - темнокожий. Пост сопровождался иллюстрацией тревожного бага - до его возникновения и после.

История не была бы такой эпичной, если бы в свою очередь Твиттер не обрезал эти иллюстации так, что предпросмотр показывал только белое лицо. Люди в треде стали ставить разные эксперименты и Твиттер раз за разом делал этот выбор - показывал Макконнела вместо Обамы🤦🏿‍♂️ Поразительная история!

Тут требуется умный комментарий в духе wrongtech о том, как технология, обученная на гигантских массивах данных, воспроизводит неравенство нашего мира. Или же это случайность? И как автоматизация уживается с моральностью? Там в треде ещё море подобных примеров, в том числе рекламируют книгу 2018 года Algorithms of Oppression: How Search Engines Reinforce Racism