OpenAI объявила, что начнет добавлять невидимые водяные знаки в тексты, созданные ChatGPT и Codex в странах Евросоюза. Технологию внедрят в ближайшие недели для пользователей всех тарифов.
Водяной знак не отображается в тексте. Технология textGrain влияет на выбор слов моделью, создавая невидимый статистический сигнал, который распознает специальный детектор. Редактирование текста осложняет работу детектору: замена 10% слов синонимами снижает вероятность обнаружения с 92% до 66%, а замена четверти слов — до 17%. Короткие тексты, математические формулы и ответы распознаются хуже.
В OpenAI уточнили, что водяной знак не содержит данных о пользователе, его аккаунте, запросах или переписке. Внедрение в ЕС объяснили законом об ИИ, требующим маркировки сгенерированного контента. На первом этапе доступ к детектору получат только одобренные исследователи. Пользователи по всему миру могут включить водяные знаки самостоятельно, но по умолчанию функция отключена.
Вечерний Телеграмъ ВКонтакте — подписывайся