ChatGPT начнёт помечать сгенерированные тексты невидимыми водяными знаками

OpenAI в ближайшие недели начнёт внедрять собственную технологию textGrain для маркировки текстов, созданных ИИ. Её добавят в ChatGPT и Codex для пользователей из ЕС в соответствии с требованиями европейского Закона об искусственном интеллекте. Клиенты OpenAI API по всему миру смогут использовать водяные знаки уже сейчас, при этом функцию можно отключить.

TextGrain анализирует выбор слов при генерации текста и встраивает в него незаметную для человека закономерность. Специальный детектор сможет определить наличие такого сигнала, но не покажет, кто написал текст, какой аккаунт или запрос использовался и какая часть материала создана человеком. Сам детектор пока будет доступен только одобренным исследователям и экспертным организациям.

Технология пока не гарантирует стопроцентного результата. По данным OpenAI, для текста на 200 токенов водяной знак обнаруживается примерно в 80% случаев, а для 400 токенов - в 95%. При этом редактирование значительно снижает эффективность: замена 10% слов синонимами уменьшает вероятность обнаружения примерно с 92% до 66%, а замена четверти слов - до 17%. Поэтому отсутствие водяного знака не означает, что текст написан человеком. Ранее о внедрении аналогичной технологии объявила Anthropic для своей модели Claude.