Группа исследователей из Швейцарской высшей технической школы Цюриха, программы MATS (Machine Learning Alignment & Theory Scholars) и компании Anthropic установила, что современные большие языковые модели (LLM) могут эффективно идентифицировать пользователей, скрывающихся за псевдонимами, с точностью, сопоставимой с работой опытного специалиста, но значительно быстрее и с меньшими затратами.

Исследователи продемонстрировали, что LLM способны автоматизировать процесс деанонимизации. Ключевое отличие нового подхода заключается в том, что модели работают напрямую с неструктурированным текстом — сообщениями на форумах, комментариями, биографиями и интервью — без необходимости предварительного преобразования данных в структурированный формат.

Исследователи разработали четырёхэтапный конвейер деанонимизации, который использует LLM для последовательного решения задачи:
— извлечение признаков: модель анализирует тексты пользователя и извлекает идентификационные сигналы — демографические данные, стиль письма, интересы, сведения о профессии, случайные раскрытия информации;
— поиск: извлечённые признаки преобразуются в плотные векторные представления (эмбеддинги), позволяющие эффективно искать совпадения среди тысяч или даже миллионов профилей-кандидатов;
— логический вывод: модель анализирует лучших кандидатов из предыдущего шага и определяет наиболее вероятное совпадение на основе всего доступного контекста;
— калибровка: LLM оценивает уверенность в каждом найденном совпадении, что позволяет установить порог точности и минимизировать ложные срабатывания. Важной особенностью является то, что каждый из этих этапов по отдельности выглядит как легитимная операция — обобщение текста, семантический поиск, сравнение документов. Однако в совокупности они образуют эффективный инструмент деанонимизации, который обходит стандартные механизмы безопасности.

Исследователи проверили работу системы на нескольких наборах реальных данных. Так, был собран набор данных из 338 пользователей Hacker News, которые в своих публичных профилях указали ссылку на LinkedIn, что обеспечивало достоверную связь с реальной личностью. Исследователи удалили все прямые идентификаторы из профилей Hacker News, после чего LLM-агент должен был найти соответствующий профиль в открытом секторе интернета. В результате 226 из 338 профилей (67%) были правильно идентифицированы с точностью 90%. Для сравнения: традиционные методы на основе структурированных данных показали эффективность 0,1% при том же пороге точности.

В рамках другого эксперимента исследователи тестировали способность модели идентифицировать одного пользователя по его постам в разных тематических разделах. Для этого они взяли историю комментариев реальных пользователей Reddit и искусственно разделили её на две части, каждая из которых рассматривалась как независимый аккаунт. Задача LLM заключалась в том, чтобы определить, принадлежат ли два таких набора сообщений одному и тому же человеку. При сопоставлении аккаунтов в сабреддитах, посвящённых кинематографу, система показала следующие результаты: полнота (доля верно связанных пар) составила 45% при точности 99% (то есть лишь 1% связей оказался ложным).

Авторы исследования подчёркивают, что LLM не раскрывают «секретную» информацию. Они используют те же сигналы, которые мог бы заметить внимательный исследователь. Однако автоматизация и масштабируемость кардинально меняют баланс сил.

Авторы признают, что результаты не являются прямым доказательством уязвимости всех пользователей, использующих псевдонимы. Исследование проводилось на пользователях, которые уже в какой-то форме раскрывали свою личность (например, LinkedIn). «Истинно анонимные» пользователи с высоким уровнем операционной безопасности не были включены в анализ по этическим соображениям. Кроме того, система требует доступа к большим объёмам данных и не всегда работает одинаково эффективно на разных платформах и для разных категорий пользователей.

📕📕📕
https://arxiv.org/html/2602.16800v1
https://cyberinsider.com/llms-can-break-online-pseudonymity-and-identify-users-across-platforms/

📲 MAX