Теперь можно будет доказать, что ваш текст написал ChatGPT? Спойлер: не совсем.

OpenAI объявила, что начнет добавлять в тексты ChatGPT невидимые водяные знаки.

Вижу новость. Первая моя реакция: ура, будет меньше ИИшных постов! А потом пошла разбираться. И все оказалось не так однозначно 😅

Во-первых, технология появится у пользователей из Евросоюза – это связано с требованиями закона ЕС об ИИ.

Во-вторых, никакой подписи «создано ChatGPT» в текстах не появится. Пользователь вообще ничего не заметит. Вместо этого модель будет определенным образом выбирать слова, создавая статистическую закономерность, которую сможет распознать специальный детектор.

А кто сможет проверить текст?

Детектор OpenAI тоже не будет общедоступным. Сначала доступ к нему получат одобренные исследователи и экспертные организации. То есть условный преподаватель пока не сможет просто загрузить курсовую студента и узнать, писал ли ее ChatGPT.

Да и сама проверка не дает стопроцентной вероятности. В тестах OpenAI водяной знак обнаруживался примерно в 95% случаев. А редактирование сильно снижает точность: замена 10% слов синонимами снизила вероятность обнаружения с 92% до 66%, а четверти слов – до 17%.

В общем, расходимся 😁 И продолжаем определять текстовый нейроконтент вручную. А вообще сам вектор любопытный: вместе с ростом ИИ-контента растет и отдельный рынок технологий, которые будут пытаться определить его происхождение.