👁 У машинного зрения появился свой дресс-код
 
Защитит ли цифровой камуфляж от тотальной слежки?
 
Берлинский художник Симон Векерт придумал рубашку Digital Camouflage. На неё нанесён состязательный узор, который сбивает алгоритм распознавания объектов. Система находит вокруг людей привычные признаки, а здесь получает такую визуальную кашу, что перестаёт уверенно определять фигуру как человека.
 
Следом тот же принцип проверили на автомобиле. Исследователь Билл Сверинген обтянул Toyota Yaris плёнкой с узором, созданным его проектом noRecognition. На DEF CON машину провезли перед камерой Flock. По словам автора эксперимента, камера сохранила запись, но программа не классифицировала объект как автомобиль. Следовательно, в автоматическом поиске такая машина могла просто не появиться.
 
На этом месте уже хочется объявить новую эру шпионской моды, но эксперты предлагают не путать эффектный эксперимент с надёжной защитой.
 
Профессор безопасности машинного обучения Баттиста Биджо объясняет, что успешно обмануть камеру в одном кадре и исчезнуть из целого видео — задачи совершенно разного уровня. Ткань мнётся, человек поворачивается, меняются расстояние и свет. На каком-нибудь следующем кадре система вполне может снова узнать человека.
 
Исследовательница ИИ и цифровой культуры Джен Белл тоже не считает такую одежду проверенным средством защиты. Но она обращает внимание на другую её функцию: даже несовершенный камуфляж становится видимым жестом сопротивления и поводом публично обсуждать слежку.
 
И наверное, это то, что действительно нужно не упустить.
 
Подобные вещи уже существуют не только в лабораториях. Появляются дизайнерские бренды, коллекции, публичные эксперименты и люди, готовые носить на себе это в протест против машинного взгляда. Значит, накопилась тревога, которой понадобилась материальная форма.
 
Мы боимся не самой камеры на стене. Она давно стала частью пейзажа. Гораздо неприятнее мысль, что кто-то невидимый автоматически определяет, кто мы, куда идём и заслуживаем ли внимания. Причём алгоритм может ошибиться, а мы даже не узнаем, какое решение он принял.
 
Узор на рубашке эту проблему не решает, но делает её видимой. Человек буквально «кричит» всем своим видом (узор, конечно, вырви глаз): «А я вообще соглашался, чтобы машина меня анализировала?»
 
👉 Если вы здесь недавно, загляните в #нейрориски. Веду эту рубрику редко, но метко: собираю случаи, когда технологии обнажают не только уязвимости в системах безопасности, но и наши вполне человеческие страхи.