Нейросети научились деанонить юзеров по стилю письма 💪

Исследователи из ETH Zurich и Anthropic доказали, что современные языковые модели умеют деанонимизировать людей, анализируя исключительно их текст. Они взяли 338 случайных профилей с гиковского форума Hacker News, удалили оттуда все прямые ссылки и имена, а затем натравили на них нейросеть. ИИ почитал посты, проанализировал стиль, опечатки, упоминания случайных хобби, географии и сформировал цифровые портреты пользователей

А дальше началась магия OSINT-а. Эти сгенерированные профили просто сличили с огромной базой резюме из LinkedIn (89 тысяч человек). Нейросеть успешно угадала реальные личности двух третей анонимных комментаторов. Похожий трюк провернули и с Reddit. Самое жуткое в этой истории то, что здесь нет никакого взлома, вирусов или утечки баз данных. ИИ просто оказался гениальным психологом-следователем, который умеет связывать воедино разрозненные факты.

Чем больше вы пишете в сети, тем проще вас вычислить 🥶

🥸 godnoTECH - Новости IT