👁 Федеральная торговая комиссия США запретила аптечной сети использовать технологию распознавания лиц на базе ИИ: та ошибочно помечала посетителей аптек как воров

Rite Aid Corp. должна прекратить использование системы распознавания лиц в течение следующих пяти лет в рамках соглашения с Федеральной торговой комиссией США — она обвинила аптечную сеть в злоупотреблении технологией, которая ошибочно идентифицировала покупателей как магазинных воров.

Система использовала изображения низкого качества, часто полученные с камер наблюдения, для создания базы данных предполагаемых воров в магазинах и отправляла оповещения сотрудникам, когда отмечала совпадение с покупателем, входящим в магазин. Естественно, компания использовала эту систему без уведомления клиентов.

А дальше, если предполагаемый вор был обнаружен, сотрудники аптеки преследовали покупателей в помещении торговой точки, вызывали полицию и иногда ложно обвиняли людей в краже.

По данным комиссии, система распознавания лиц Rite Aid выявила тысячи ложных совпадений. Жертвами чаще всего были афроамериканцы, латиноамериканцы и женщины.