Reddit заблокировала учёных за тайный эксперимент с ИИ-ботами

Группа исследователей из Цюрихского университета была навсегда забанена на Reddit после эксперимента, в рамках которого они тайно запускали ИИ-ботов, выдававших себя за психологов и жертв насилия. За несколько месяцев боты оставили более 1,7 тыс. комментариев в сообществе r/changemymind и набрали свыше 10 тыс. кармы, прежде чем были раскрыты.

В исследовании использовались модели GPT-4o, Claude 3.5 Sonnet и Llama 3.1-405B, которые анализировали последние 100 публикаций пользователей для создания убедительных аргументов. Несмотря на негативную оценку со стороны Reddit юридической службы и этические претензии, эксперименты показали, что ИИ-боты значительно эффективнее людей в убеждении.

Авторы предупреждают о рисках манипуляций общественным мнением и вмешательстве в выборы с помощью таких технологий и рекомендуют платформам развивать методы проверки контента, созданного ИИ.

---

Источник изображения: AI

Подробнее: The Verge

@Unlim_AI