Искусственный интеллект любят обвинять в распространении дезинформации. А вот в научном журнале Science вышло исследование с обратными выводами: чат-боты, как оказалось, помогают бороться с конспирологией.
Команда ученых-психологов провела два эксперимента на 2190 американцах, которые придерживались теорий заговора. Они общались с GPT-4 Turbo о своих убеждениях, а чат-бот пытался их переубедить. В 20% случаев — успешно.
Как проводили эксперимент
- Сначала участники эксперимента описывали чат-боту своими словами теорию заговора, в которую они верят, и приводили аргументы, которые они считают убедительными. Участников на старте просили оценить по десятибалльной шкале, насколько они верят в теорию.
- Затем ИИ-модель пыталась их переубедить и приводила контраргументы в переписке. Сразу после переписки, а затем и спустя два месяца, участников просили оценить теорию снова.
- 20% участников начали считать свои теории менее убедительными, и повторный опрос показал, что этот эффект сохраняется продолжительное время.
Интересно, что результаты идут вразрез с тем, что ученые знают о поведении людей, подверженных теориям заговора.
Считается, что теории заговора устойчивы к приведению явных контраргументов, так как конспирология — это не про факты, а про психологию. Люди, верящие в теории заговора, закрывают этим свои потребности в контроле окружающего мира и чувстве собственной уникальности, потому у них развиваются формы предвзятой обработки информации.
Из этого следовал мрачный прогноз, что без изменения личностных установок сторонник теории заговора не откажется от неё.
Эксперимент с GPT-4 Turbo показал, что высокий уровень персонализации приводимых контраргументов способен изменить позицию человека. Модель ИИ, в отличие от человека-собеседника: а) имела доступ к огромному объему информации по различным темам; б) могла подгонять контраргументы под конкретные теории заговора, рассуждения и доказательства, которые приводит верующий.
_______________________________________
Один из возможных сценариев применения ИИ по мнению исследователей — в соцсетях. Чат-бот мог бы отвечать пользователям в комментариях и корректировать приводимые доводы: как для автора, так и для наблюдателей дискуссии.