❗️ChatGPT начнет ставить невидимые водяные знаки в тексты. Но паниковать пока рано.

OpenAI объявила, что в ближайшие недели начнет добавлять в тексты ChatGPT и Codex специальную невидимую метку textGrain. Сначала – для пользователей в Евросоюзе.

В телеграме уже пошли страшилки в духе «теперь любой преподаватель или работодатель сможет проверить, что текст написал ChatGPT».

На самом деле всё не совсем так. Это не скрытые символы, пробелы или метаданные, которые можно найти в скопированном тексте. ChatGPT немного меняет выбор слов, создавая в тексте статистический «рисунок». Специальный детектор потом пытается его распознать.

И вот тут начинается самое интересное. Сама OpenAI признаёт, что технология работает далеко не идеально. Короткие тексты определяются хуже, а редактирование, перефразирование или перевод могут сильно затруднить обнаружение метки. Например, в тестах OpenAI замена всего 10% слов на синонимы снизила вероятность обнаружения метки с 92% до 66%. При замене 25% слов – уже до 17%. Более того, найденная метка не доказывает, что весь текст написал ChatGPT. Она не показывает, сколько написал человек, сколько изменил ИИ и кто вообще является автором текста.

Обратное тоже работает: если детектор ничего не нашёл, это не означает, что текст точно написал человек.

И ещё один важный момент – сам детектор textGrain пока не будет доступен всем желающим. На старте доступ получат только одобренные исследователи и экспертные организации.

Для ChatGPT маркировку пока вводят только в ЕС. Для пользователей API по всему миру её можно включить самостоятельно, но по умолчанию она отключена. Так что рассказы про «теперь любой текст из ChatGPT можно вычислить» несколько преждевременны.

А вот гонка между ИИ, который ставит водяные знаки, и ИИ, который переписывает текст так, что их становится невозможно уверенно определить, похоже, только начинается.

Шурыгин.IT – про технологии без иллюзий