Слышали об отравленных данных?

Мы привыкли к тому, что алгоритмы следят за нами и почти смирились. Но что, если начать их обманывать? В соцсетях вирусится новый тренд: пользователи предлагают намеренно искажать свои личные данные.

💊 Что такое отравление данных

Отравление данных — вид кибератаки, направленный на подрыв работы моделей машинного обучения путем целенаправленного искажения исходных данных. Изначально речь шла о намеренном искажении корпоративных датасетов. Теперь же об отравленных данных все чаще говорят в контексте защиты приватности пользователей и сопротивления надзорному капитализму.

⚙️ О каких данных идет речь

Цифровые сервисы постоянно собирают о нас данные: что мы смотрим, покупаем, читаем, где бываем и на что реагируем. Эти данные нужны бигтеху для обучения алгоритмов, персонализации рекламы и рекомендаций. Перестать делиться данными практически невозможно — разве что вы готовы жить без такси, доставок и стримингов.

➡️ Как работает отравление данных на бытовом уровне

Смысл в том, чтобы повести алгоритмы по ложному цифровому следу. Среди самых популярных советов:
— указывать фейковые пол, возраст и регион;
— заполнять каждую форму разными данными, скрывая настоящие;
— устанавливать нерелевантные вам приложения, например, мужчинам рекомендуют скачивать трекеры беременности.

Для корректной работы алгоритму нужны качественные данные. Чем больше в них намеренных искажений, тем хуже алгоритм понимает пользователя.

🏓И какой в этом смысл

Пользователь, который следует советам выше, со временем начнет видеть все менее релевантную рекламу. Первый удар на себя примет рекламодатель: для него это означает больше нецелевых показов и менее предсказуемое распределение рекламного бюджета.

Авторы статьи в MIT Technology Review говорят об отравлении данных как о форме сопротивления политике платформ. Возвращая себе контроль над данными, пользователи получают потенциальный рычаг воздействия на бигтех. Недовольные рекламодатели и уставшие от слежки пользователи вполне могут стать союзниками в этой борьбе.

Правда, чтобы это сработало, отравление данных должно стать действительно массовым — усилий отдельно взятых энтузиастов недостаточно. А пока оно не достигнет критической массы, потенциальный финансовый ущерб, скорее всего, придется не на сами платформы, а на бизнесы, которые размещают у них рекламу.

👁️ на картинке: «я надеюсь, наши украденные данные хранятся где-то рядом в одном датацентре»