На просторах популярного форума Reddit произошел скандал: некие исследователи из Цюрихского университета запустили туда целую армию ИИ-комментаторов. Ученые хотели узнать, могут ли боты повлиять на мнение пользователей по спорным вопросам, – и это им удалось. Из полутора тысяч комментариев почти 120 получили «дельту», специальную отметку, которую автор поста дарит тому, кто смог его переубедить.

В эксперименте использовали ботов, умеющих не только тонко разбираться в обсуждаемом вопросе, но также умело подстраивающихся под собеседника. Они персонализировали свои комментарии, исследуя пол, возраст, местонахождение и политические взгляды человека, который начинал обсуждение. Некоторые из них легко переступили этические рамки и для правдоподобности выдавали себя, например, за жертв насилия. Теперь пользователи возмущаются, как ловко ИИ их надул, а администрация Reddit грозит ученым юридическими последствиями за нарушение правил платформы.

Прогноз о том, что в 2026 году 90% интернет-контента будет генерироваться искусственным интеллектом, грозит сбыться. И отличать его от контента, созданного человеком, будет всё сложнее. С развитием рынка ИИ-аватаров (цифровых двойников, которые будут за вас отвечать в мессенджерах и участвовать в рутинных рабочих процессах) эта грань станет еще менее заметной. Исходя из реалий, не исключаю, что идею маркировки ИИ-контента будет проще реализовать в обратном направлении: помечать особым образом только то, что было создано, написано, сказано человеком, а не машиной.

Как считаете вы? Может быть, и не нужно никакой маркировки? Пишите в бот обратной связи, обсудим.