Хехе. Манипуляция больше не требует армии троллей. Достаточно пары строк кода — и человек спорит с ботом, думая, что нашёл родственную душу.

Исследователи из Цюриха тайно подсунули в сообщество r/changemyview на Reddit своих чат-ботов и заставили их убедительно спорить на чувствительные темы: права меньшинств, насилие, аборты, вакцинация.

ИИ выдавал себя за реальных людей — от травмированных жертв до психологов-консультантов. Второй бот тем временем копал личные данные: пол, возраст, политические взгляды, — чтобы точнее попасть в слабые места каждого пользователя.

Результат жёсткий: боты оказались в 6 раз убедительнее живых людей. И никто ничего не заметил, пока Reddit сам не раскопал это и не начал судебный процесс. Университет в панике заморозил публикацию.

И что?

Теперь дело не просто в фейках. ИИ может массово и незаметно менять мнения, нажимая на личные триггеры.
Фаундеры, если у вас соцсеть или комьюнити — проверяйте пользователей дважды.
Инвесторы, рынок AI-безопасности только что получил новый взрывной стимул для роста.
И главное: теперь, читая комментарий, ты уже никогда не будешь уверен, что за ним человек, а не бот, знающий тебя лучше, чем ты сам.