🤖 Побочный эффект пропаганды: как государственные СМИ влияют на ответы чат-ботов

Можно не читать государственные СМИ, но всё равно сталкиваться с их нарративами — в ответах ChatGPT, Claude и других чат-ботов. Причём не подозревая об их происхождении.

🔎 🇨🇳Как это происходит, выяснили исследователи на примере китайской пропаганды.

▪️ Пропаганда в данных. В изученном китайскоязычном интернет-архиве 3,1 млн документов содержали значительные совпадения с материалами государственных пропагандистских источников. Среди текстов о китайских политиках и госинститутах их доля достигала 23%.

▪️ Эксперимент подтвердил влияние. После дополнительного обучения на материалах китайских государственных СМИ небольшая ИИ-модель стала положительнее оценивать власти КНР.

▪️ Язык меняет ответ. Коммерческие чат-боты отвечали на вопросы о китайской политике более благосклонно к Пекину на китайском языке, чем на английском.

🤖 Как пропаганда попала в ИИ? Публикации подконтрольных Пекину СМИ годами попадали в интернет-архивы, которые затем использовали для обучения языковых моделей.

📌 При этом доказательств намеренного влияния Китая на западные чат-боты нет. Многие материалы были собраны ещё до появления современных ИИ-моделей.

🌍 И дело не только в Китае. Исследователи обнаружили связь между свободой СМИ в разных странах и тем, насколько благоприятно ИИ оценивает их правительства. Похожий механизм может действовать и в других странах с жёстким контролем информации.

⚠️ Главная опасность — «отмывание» пропаганды. Чат-бот может воспроизводить государственные нарративы без указания источника. Так политически окрашенная информация начинает выглядеть как нейтральный ответ ИИ.

🟢 Подписывайтесь, будет интересно։ t.me/antiDote_tg