НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL, ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+
Новые исследования, опубликованные в журналах Science и Nature, показали, что чат-боты могут влиять на политические предпочтения пользователей эффективнее, чем агитационная реклама на ТВ.
Эффект убеждения
Исследование, опубликованное в Nature, проводили ученые из MIT, Ягеллонского университета в Польше и Корнеллского университета в США. Они изучали, как популярные чат-боты могут влиять на мнение избирателей.
В основу одного из экспериментов легли президентские выборы в США 2024 года. Участие приняли больше 2 тысяч американцев, и примерно каждого 25-го боты смогли переубедить поддержать Дональда Трампа или Камалу Харрис. Результат скромный, но заметно выше, чем у средней политической рекламы на телевидении, обнаружили исследователи. А за пределами США (эксперименты также проводились в Канаде, Польше и Великобритании) влияние чат-ботов на мнение избирателей оказалось еще сильнее.
Один из авторов, профессор Корнеллского университета Дэвид Рэнд не скрывает своего удивления:
Отсюда вытекает важный вывод: если компании-разработчики ИИ решат слегка наклонить чашу весов и настроят модели так, чтобы те подталкивали людей к одной или другой стороне, это может заметно повлиять на их мнение.
Спорные «факты»
Не меньше удивляет и то, как ИИ убеждал людей. Этому был посвящен еще один материал, вышедший в Science. В нем ученые из Великобритании и США проверяли разные стратегии убеждения на чат-ботах. Например, в одном случае модель выступала «эмпатичным» слушателем, а в другом — старалась представить идеи через ценности, близкие собеседнику.
Но победила самая простая тактика — накидать как можно больше аргументов. Чем объемнее была информация, которую выдал бот, тем охотнее люди меняли свое мнение, говорит Рэнд (также соавтор второго исследования). Но есть нюанс: тактика срабатывала даже тогда, когда часть «фактов» вводила в заблуждение.
Буря в стакане?
Но не все эксперты бьют тревогу. Американский культуролог, медиа-исследователь Шива Вайдьянатхан (не участвовал в исследовании) считает, что реальный эффект влияния ИИ на мнение может быть гораздо слабее. Да, люди за 25 лет привыкли доверять поисковикам — и переносят это доверие на ботов — но в обычной жизни «мы все обращаемся к ним за быстрым ответом».
Лабораторные условия далеко не то же самое, что бывает в жизни, солидарна Уитни Филлипс, доцент кафедры цифровых платформ в Орегонского университета. ИИ может иметь огромный потенциал для того, чтобы изменить облик политической агитации, но он может стать страшно назойливым, и тогда весь этот потенциал сойдет на нет.
📍 Подписаться на канал The Bell Tech