"В наше время люди узнают о том, что они думают, по телевизору"
В.О. Пелевин
В августе машину в политике искали трижды. А нашли лишь раз, и не там, где машина хоть что-то меняла.
История первая. С июня исследователи Riddance и штаб Ньюсома следили за сетью «новостных» каналов на YouTube. Смотреть было на что: десятки каналов, 45 млн просмотров, 90к комментариев, больше вовлечения, чем у Washington Post и New Yorker, и каждый ролик про «крах синих штатов». Искали и политзаказ, и русскую угрозу. В штабе губернатора так и считали — иностранное вмешательство.
2 сентября Semafor дошел до источника, это 25-летний выпускник Чикагского университета, ютубер со стартапом по раскрутке каналов для брендов. Весной он пробовал играть на другой стороне, ролик «Врачи выявили у Трампа деменцию» собрал 129к просмотров. Но гнев на Мамдани и Ньюсома зашел лучше, и каналы начали выдавать его.
Внутренний дашборд сети с пометкой «anti-Dem», аудитория на 80% мужчины старше 55 лет, производство 2500 роликов в неделю. На этой машине продаются приложения: один из клиентов получил 2 млн долларов годовой выручки.
Первая инверсия в целях, искали политику — нашли бизнес. Политика была не смыслом, а самым дешевым в стране сырьем. А вторая инверсия в кадре. Три года мир учился ловить машину, притворяющуюся человеком: дипфейки, синтезированные голоса, генерированные аватары. Все наоборот, сценарии, заголовки и превью пишет модель, а читает их человек — актер с фриланс-биржи Fiverr. 26 долларов за ролик, сутки на запись, свет свой. Кто платит, актеры не знают.
YouTube умеет маркировать синтетику, но человек, читающий машинный текст, синтетикой не является. Оператор еще в августе хвастался и другим лупхолом, если 26 аккаунтов постят один хэштег за десять минут, алгоритм считает это breaking news.
25 августа, после запроса СМИ, сайты сети разом погасли. 3 сентября YouTube снял 20 каналов за спам и обманные практики. Не за ложь, проверки правды у платформы нет, только проверка происхождения. И сработала она уже после публикации, а не до.
История вторая. 10 августа Верховный суд снял список «Яблока» с выборов в Госдуму по иску «Родины». Претензии касались в основном авторских прав, и в одном ряду там оказались голубь, кадры из фильмов, фраза «лишь бы не было войны» и «рисунки, созданные с помощью ChatGPT». ИИ стал инструментом политической борьбы в форме юридической атаки на оппонента. И хотя ЦИК почти сразу признал, что нормы авторского права к ИИ-картинкам неприменимы, на результат это не повлияло: список уже был снят.
Подвести итог можно фразой из доклада ЦПК от 24 августа: «Впервые фактор ИИ оказал влияние на результат кампании». Массового применения нейросетей в агитации не будет, «цена ошибки слишком высока» (Чеснаков). Но партии уводят ИИ туда, где их не видно, в черновики, аналитику и «неаффилированные аккаунты».
Вернемся к первой истории: неаффилированный аккаунт, где человек произносит написанный машиной текст, это и есть тот призрачный создатель с YouTube. Детектор ищет машину в картинке, а машина уже в сценарии.
История третья. 28 августа X отчиталась о находке фермы из 200к китайских аккаунтов; две сотни из них постили созданные ChatGPT карикатуры против американских дата-центров, мол, из-за ИИ дорожает электричество. Здесь детектор нашел машину, но именно машину, не ложь. Недовольство дата-центрами в США настоящее, боты лишь седлают его. Единственная пойманная сеть месяца — та, где нечего опровергнуть.
Выводы для цеха. Все ищут одно и то же: синтетику в кадре и заказчика за кадром. Теперь придется искать, кто написал текст и нанял актера (и есть ли там что-то, кроме рекламной сети).
ИИ в агитматериале — не инструмент, а уязвимость; аудит на генерацию проводится до подачи списка, а не после иска. Фабрика лиц против вашего кандидата может не иметь заказчика вовсе, только CTR, и ловить ее нужно по паттерну — общая музыка, общие фразы, синхронный постинг, — а не гадать, чьи деньги.
Будущее по-прежнему здесь и распределено неравномерно. И хотя это будущее с человеческим лицом, лицо это понятия не имеет, кто ему на самом деле платит.