Крафтовый котлован, выкопанный вручную

ЕС хочет научиться отличать тексты, прошедшие через ИИ, от обычных человеческих. Замысел понятен и даже хорош: когда очередная фабрика ботов начинает штамповать миллионы комментариев, фальшивых новостей и агиток, хотелось бы иметь технический способ сказать: вот здесь работала машина. Именно поэтому европейский закон требует, чтобы синтетический контент можно было распознавать автоматически.

OpenAI теперь будет оставлять в текстах ChatGPT в ЕС невидимый статистический «почерк»: модель слегка меняет выбор слов, а специальный детектор ищет получившийся узор. Читатель ничего не увидит. На первом этапе проверять его смогут только одобренные исследователи и экспертные организации.

И тут прекрасная идея начинает сталкиваться с реальностью. Если заменить всего 10% слов синонимами, вероятность обнаружения метки в тестах OpenAI падает примерно с 92% до 66%. Если заменить четверть, остаётся 17%. Перевод и серьёзная переработка тоже разрушают сигнал.

То есть настоящая пропагандистская фабрика решает проблему примерно за один дополнительный запрос: «Перепиши этот текст другими словами». А чтобы потом что-то доказать, кому-то нужно получить доступ к детектору, проверить достаточно длинный оригинальный текст и ещё правильно истолковать результат. К тому времени агитка уже набрала миллион просмотров, породила три скандала и отправилась жить отдельной жизнью.

Зато прекрасно маркируется, например, текст человека, который попросил ИИ его перевести или переработать без всякого злого умысла. Сам OpenAI подчёркивает: метка не говорит, кто автор мысли, сколько сделал человек и сколько машина. Она говорит лишь, что система OpenAI генерировала или обрабатывала этот набор слов.

И тут борьба с пропагандой начинает незаметно превращаться в современный луддизм. Неважно, кто придумал текст, насколько он правдив и кто отвечает за сказанное. Важным становится сам факт: пользовался человек машиной или всё сделал руками.

Получается что-то вроде крафтового котлована, выкопанного лопатами заключённых. Экскаватор, конечно, справился бы быстрее. Но зато ручная работа, настоящее человеческое.

Один человек часами копает кривой котлован лопатой. Второй умеет копать и без машины, но берёт экскаватор и делает работу лучше за час.

А потом приходит регулятор и торжественно ставит на первом табличку: «100% human-made».

Между тем настоящая фабрика пропаганды первой же эту метку и смоет. А водяной знак останется ловить тех, кто попросил машину перевести, отредактировать или сократить собственный текст.