🟠 Perplexity ответил на моё исследование и заблокировал сайты кремлёвской пропаганды в своём алгоритме.

На прошлой неделе я выпустил академическое исследование, которое уже наделало шума в профессиональной среде специалистов по противодействию пропаганде.

Я принадлежу к этому комьюнити с 2022 года (раньше держал это в секрете согласно контракту, но он меня больше не связывает).

В чём суть моего исследования:

• я взял так называемые data voids, "пустоты в официальных данных". Это 10 популярных фейков, которые Кремль разгонял в немецком инфополе вместе с ультраправыми (АфД) и ультралевыми (партия Сары Вагенкнехт, BSW). Последнее - не моё личное мнение, а доказанный факт;

• с помощью написанного на Python софта я прогнал эти вопросы 520 раз через шесть самых популярных в Германии ИИ-чатботов, вот датасет;

• результат: половина сервисов оказались загрязнены ссылками на Russia Today и их сателлитов. Особенно заметно ИИ сыпется на тейках про «Германия - вассал США» и «американцы взорвали Северный поток»;

• замер я делал ровно в день выборов в Берлине и Мекленбурге. Вполне возможно, что в этом есть влияние на реальные результаты выборов: АфД победила Мекленбурге и в районе Берлина Марцан.

🟠 Что еще я сделал? Я сразу же отправил запросы в Meta AI, Perplexity и Microsoft Copilot, чтобы они обратили внимание, как абьюзят их площадки.

Как отреагировали ИИ-компании:

• Пресс-секретарь Perplexity Биджоли Шах мгновенно поняла серьёзность положения. По её словам, после моего письма их команда сразу провела внутреннее расследование. Они поняли, где была лазейка, приняли меры и заблокировали ссылки на Russia Today. Маленькая, но важная победа.

(я проверил: Perplexity больше не выдаёт кремлёвские фейки на вопросы рисерча)

• Пресс-служба Microsoft отозвалась, но ничего внятного сказать не смогла.

• Meta AI: тишина.

🖥 Это не первое моё исследование на тему LLM grooming («совращение нейросетей», официальный термин, который использует дипломатическая служба ЕС).

Но первое публичное: предыдущее было выполнено для правительственной службы страны НАТО на конфиденциальных условиях.

Специально для телеграм-канала я продублировал свой доклад на языке, которым я здесь пишу, - вот PDF.

Если вы знаете журналистов, которые пишут про ИИ и дезинформацию, перешлите им этот пост.