Цена ошибки: полгода в заключении из-за алгоритма📕

В июле 2025 года пятидесятилетняя Анджела Липпс из штата Теннесси стала жертвой полицейской ошибки.

Расследуя серию банковских мошенничеств, полиция города Фарго (Северная Дакота) получила наводку от коллег: искусственный интеллект распознал лицо Липпс на поддельном удостоверении, использованном преступниками.
В результате вооружённые федеральные маршалы ворвались в её дом и арестовали женщину на глазах её внуков, что положило начало длинной цепочке событий: Липпс провела за решёткой около шести месяцев, получив статус беглой преступницы в штате, в котором не была ни разу в жизни.#️⃣

Серьёзной проблемой стало то, что полицейские доверили принятие решений программе, поддавшись «предвзятости автоматизации». Любая система распознавания лиц — в данном случае использовалась программа Clearview AI, но могла быть любая другая — оперирует с вероятностями. И разработчики подобных систем, и правозащитники в один голос утверждают, что совпадение, даже и стопроцентное, — это лишь повод для проверки, юридически равносильный анонимному звонку.

Ложные совпадения — обычная часть работы алгоритмов искусственного интеллекта, но детективы Фарго восприняли подсказку алгоритма как руководство к действию и оформили ордер на арест, решив не тратить время на традиционную следственную проверку.

🚫Сколько раз в нашем блоге мы писали о том, что нельзя принимать на веру показания вероятностных моделей?
🚫Сколько говорили о том, что ни одна программа не примет решение за человека?

Об этом говорили не только мы.

Но, как показывает практика, человеческая лень, желание схалтурить и поскорее закрыть дело никуда не исчезают...

Подробнее в нашей новой статье📎