🤖 ИИ уже не просто пишет фейки — он может сам вести кампанию влияния

ИИ в операциях влияния уже используется не только для создания фейковых текстов и изображений. Он может самостоятельно вести сети аккаунтов, публиковать контент и общаться с реальными пользователями.

Об этом пишут исследователи CETaS при Институте Алана Тьюринга, ссылаясь на недавно выявленные кампании, связанные с Китаем, Ираном и двумя частными компаниями в Израиле.

🤖 По данным исследователей, сотни ИИ-агентов управляли фейковыми аккаунтами в Instagram, Facebook, X и TikTok практически без участия человека. Они создавали профили и публикации, отвечали пользователям и координировали распространение политического контента.

🤖 В одном из случаев связанная с Ираном сеть выдавала себя за обычных американцев, взаимодействовала с журналистами и политиками и за полгода собрала около 80 тысяч подписчиков. Это говорит о масштабе охвата, но не доказывает влияние кампании на взгляды этих людей.

🤖 Главное отличие от привычных бот-ферм — поведение. Вместо тысяч аккаунтов, копирующих одинаковые сообщения, ИИ позволяет создавать внешне разных «пользователей», которые пишут оригинальные посты, поддерживают разговор и адаптируются к собеседнику.

🤖 Эксперименты показывают следующий возможный этап: ИИ-агенты уже способны самостоятельно определять, какие сообщения работают лучше, перенимать успешные стратегии друг друга и взаимно усиливать публикации.

⚠️ Поэтому исследователи предлагают искать не только отдельные фейки и подозрительные аккаунты, но и координацию между ними. Опасность такой системы — в возможности имитировать массовую общественную поддержку там, где ее в действительности может не быть.

🟢 Подписывайтесь, будет интересно։ t.me/antiDote_tg