Вокруг Amazon разгорелся скандал: пользователи обнаружили, что алгоритмы маркетплейса ведут на них подробнейшие секретные досье, включающие факты из жизни, о которых покупатели никогда не рассказывали корпорации.

Триггером послужил пост в Threads. Девушка зашла в настройки своего профиля и с ужасом обнаружила там официальную характеристику своей фигуры — «плоские ягодицы». Запись мгновенно набрала более миллиона просмотров, превратившись в катализатор для массовой проверки. Вслед за ней тысячи людей по всему миру полезли в свои аккаунты, чтобы выяснить, какие еще выводы о них сделала нейросеть на основе обычных покупок.

То, что они там увидели, больше напоминает отчеты частного детектива, чем историю заказов. Алгоритм Amazon берет безобидные данные — поисковые запросы, содержимое корзин, оценки товаров и даже время, проведенное на странице — и на их основе генерирует десятки абсурдных, а порой и пугающих предположений. Одной женщине, например, система приписала сожительство с абсолютно незнакомым левым мужчиной просто потому, что она искала подарок для партнера. Другая с удивлением узнала, что Amazon считает ее владелицей обширной коллекции одежды для гусей.

Но самое тревожное в этих цифровых профилях — это попытки алгоритма залезть в медицинскую карту и личную жизнь: в досье пользователей внезапно появлялись догадки о хронических заболеваниях, психоэмоциональном состоянии, сексуальной ориентации и проблемах в отношениях.