Chat GPT будет помечать свои тексты водяным знаком

При генерации модель будет статистически подбирать слова таким образом, чтобы на выходе в тексте был определенный считываемый сигнал. При этом для человеческого глаза он будет незаметен, распознать наличие водяного знака можно будет при помощи специального детектора — доступ к нему предоставит сама же OpenAI. Пока функция вводится для пользователей из Европы.

Ранее аналогичный инструмент в новые модели Claude внедрила компания Anthropic. ИИ-стартапы озаботились возможностью детекции на фоне вступления в силу правил прозрачности, прописанных в новом законе Евросоюза об искусственном интеллекте. Генеральный директор компании Nevel. ai Алексей Хахунов считает, что относиться к нововведению следует именно как к следованию букве закона, которое мало отразится на конечных пользователях. Хотя способ маркировки, используемый OpenAI, эксперт называет достаточно надежным.

Однако точную детекцию водяного знака будет обеспечивать конкретная последовательность слов, сгенерированная искусственным интеллектом. Что встречается крайне редко — публиковать нейросетевой текст без правок, пусть даже минимальных, уже давно считается дурным тоном. Директор Angel Relations Group и преподаватель ВШЭ Алексей Карлов объясняет, что если текст создавался нейросетью совместно с человеком, то есть если пользователь редактировал получившийся материал, обнаружить следы использования ИИ в таком контенте будет практически невозможно.

В самой Open AI тоже признают — если заменить даже 10% сгенерированного текста синонимами, вероятность обнаружения водяного знака падает до 66%. А если поменять четверть слов, точность детекции будет всего 17%.

Автор: Ольга Кашинская
#тема
Послушать в звуке⬆️

📻 Подписывайтесь на BFM | И в MAX