Слышали об отравленных данных? Мы привыкли к тому, что алгоритмы следят за нами и почти смирились.
Но что, если начать их обманывать? В соцсетях вирусится новый тренд: пользователи предлагают намеренно искажать свои личные данные.
💊
Что такое отравление данныхОтравление данных — вид кибератаки, направленный на подрыв работы моделей машинного обучения путем целенаправленного искажения исходных данных. Изначально речь шла о намеренном искажении корпоративных датасетов. Теперь же об отравленных данных все чаще говорят в контексте защиты приватности пользователей и сопротивления надзорному капитализму.
⚙️
О каких данных идет речьЦифровые сервисы постоянно собирают о нас данные: что мы смотрим, покупаем, читаем, где бываем и на что реагируем. Эти данные нужны бигтеху для обучения алгоритмов, персонализации рекламы и рекомендаций. Перестать делиться данными практически невозможно — разве что вы готовы жить без такси, доставок и стримингов.
➡️
Как работает отравление данных на бытовом уровнеСмысл в том, чтобы повести алгоритмы по ложному цифровому следу. Среди самых популярных советов:
— указывать фейковые пол, возраст и регион;
— заполнять каждую форму разными данными, скрывая настоящие;
— устанавливать нерелевантные вам приложения, например, мужчинам рекомендуют скачивать трекеры беременности.
Для корректной работы алгоритму нужны качественные данные. Чем больше в них намеренных искажений, тем хуже алгоритм понимает пользователя.
🏓
И какой в этом смыслПользователь, который следует советам выше, со временем начнет видеть все менее релевантную рекламу. Первый удар на себя примет рекламодатель: для него это означает больше нецелевых показов и менее предсказуемое распределение рекламного бюджета.
Авторы статьи в
MIT Technology Review говорят об отравлении данных как о форме сопротивления политике платформ. Возвращая себе контроль над данными, пользователи получают потенциальный рычаг воздействия на бигтех. Недовольные рекламодатели и уставшие от слежки пользователи вполне могут стать союзниками в этой борьбе.
Правда, чтобы это сработало, отравление данных должно стать действительно массовым — усилий отдельно взятых энтузиастов недостаточно. А пока оно не достигнет критической массы,
потенциальный финансовый ущерб, скорее всего, придется не на сами платформы, а на бизнесы, которые размещают у них рекламу.
👁️
на картинке: «я надеюсь, наши украденные данные хранятся где-то рядом в одном датацентре»