Оказалось, что люди готовы полностью доверять тому, что им говорят нейросети

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

— Не так давно вышло интересное исследование от американских учёных на тему отношения аудитории к разным источникам информации. В частности, исследователи решили выяснить: если вот дать человеку текст и сказать «этот текст сгенерировал ИИ», будут ли люди относиться к написанному более скептически?

Всего в эксперименте приняли участие свыше 1500 человек, которых разделили на три группы. Затем ИИ сгенерировал тексты по нескольким значимым темам государственной политики США (экология, импорт медицинских препаратов, зарплаты студентам, работа соцсетей). В результате получилось 4 одинаковых текста, но в разных группах испытуемых эти тексты маркировали по-разному. Например, в группе №1 говорили, что текст написал эксперт по политике. А в группе №2 утверждали, что текст сгенерировала нейросеть. В группе №3 текст давали без маркировки.

Результаты получились любопытные. Во-первых, оказалось, что нейросетевые тексты весьма убедительны. ИИ так подала факты и тезисы, что смогла повлиять на взгляды фокус-группы (в среднем на 9,74 процентных пункта по шкале до 100). Во-вторых, метка «сгенерировано нейросетью» почти ни на что не повлияла. Люди верили ИИ-текстам практически так же, как и текстам «экспертов».

В итоге авторы пришли к выводу, что маркировка ИИ-контента никак не влияет на отношение аудитории к этому самому контенту: люди не становятся более скептическими, не пытаются перепроверить факты и прочее. Что это значит на практике? Думаю, общественность постепенно привыкает к нейросетям и ИИ перестаёт восприниматься как нечто совершенно новое.

Всё это подводит нас к тому, что простая маркировка уже не сможет эффективно защищать от потенциально манипулятивного или предвзятого ИИ-контента. В ближайшем будущем нам, скорее всего, придётся искать более действенные способы – от глубокой фактчекинговой проверки до развития критического мышления в отношении любых текстов, независимо от их происхождения.