Система распознавания лиц Amazon Rekognition выявила 28 "преступников" среди членов Конгресса США.

Amazon Rekognition - это проект Amazon, который предоставляет пользователям сервис по анализу изображений и видео. Сервис может использоваться социальными сетями и приложениями для обработки фото и видео. С его помощью можно удалять нежелательный контент, размещенный пользователями или искать потерявшихся детей в парке. Сервис был запущен в ноябре 2016 года, а в 2017 он научился работать с потоковыми видео и им заинтересовались спецслужбы США. В Орегоне и Орландо система уже подключается к нагрудным камерам инспекторов и может предупреждать их, когда в поле зрения появляется человек, занесенный в базу данных преступников.

Союз гражданских свобод США (ACLU) выступает против использования этой технологии с момента ее появления. Не получив ощутимой поддержки со стороны общества и столкнувшись с сильным лобби со стороны Amazon, Союз провел самостоятельное тестирование. Правозащитники загрузили в базу системы 25 тысяч фото предполагаемых преступников. Как сообщается фотографии были взяты из общедоступных данных о задержаниях. После этого системе показали фото всех членов Конгресса США. 28 из них были опознаны как преступники.

Страшно представить какие последствия могут быть для человека на улице, которого полицейская камера назовет преступником.

Позже выяснилось, что при тесте, проведенном ACLU, система была настроена на 80% соответствия. Это довольно низкий уровень, и он обычно используется для распознавания еды или автомобилей на фото. Если говорить о системе биометрической идентификации, запущенной у нас в начале месяца, то там доверительный интервал соответствия задает банк, потому что все риски, связанные с некорректной работой системы, он берет на себя. Уверен, он будет больше 80%. Да и сама система предполагает анализ не только визуального, но и аудио-слепка, что дает дополнительный уровень защиты.


Мораль истории в том, что все подобные системы сейчас находятся только на заре своего развития. И, как это бывает с любой новой технологией, ошибки неизбежны. Если хотите безопасно пользоваться технологическими возможностями цифровой экономики, наберитесь терпения.