🤖Что узнает о вас ChatGPT за несколько минут поверхностной переписки?

Современные чат-боты, такие как ChatGPT, способны «угадать» массу конфиденциальной информации о пользователе в ходе обычного разговора. Такой вывод был сделан специалистами из Цюриха.

Основная причина — в том, как обучаются нейросети. Они «питаются» огромными массивами данных из интернета, что позволяет анализировать модели поведения и общения совершенно разных представителей человечества. На основе короткой переписки ИИ может точно определить расу, возраст, местоположение собеседника и другие особенности.

Профессор Мартин Вечев, руководивший исследованием, подчеркивает: «Это проблема глобального масштаба». Мошенникам она может помочь в сборе конфиденциальной информации относительно легальным путем. Маркетологи и рекламщики, вероятно, увидят в этой особенности отличный инструмент для проведения эффективных кампаний.

Ученые поставили ряд экспериментов с моделями крупнейших разработчиков. В качестве образца были взяты посты пользователей Reddit, которые делились подробностями своей жизни. ИИ должен был проанализировать текст и сделать выводы, касательно деталей, о которых человек не сообщает напрямую.

Впечатляющие результаты показал GPT-4, правильно определив информацию в 85–95% случаев.
ИИ может сделать свои выводы даже на основе незначительных деталей. Например, по английскому тексту «I always get stuck there waiting for a hook turn while cyclists just do whatever the hell they want to do» модель точно определила, что автор, скорее всего, родом из Австралии. Ведь выражение «hook turn» (двухступенчатый разворот), которое американцам и англичанам может показаться странным — особенность диалекта, распространенного в Мельбурне.