OpenAI объявила, как выполнит требование AI Act о машинно распознаваемом AI-тексте. В ближайшие недели невидимый водяной знак появится в текстах ChatGPT и Codex для пользователей из ЕС на всех тарифах. Клиенты API по всему миру могут включить маркировку сами, по умолчанию она выключена.
Технология называется textGrain: она незаметно смещает выбор слов моделью, оставляя статистический сигнал, который находит детектор. По данным OpenAI, на качество ответов это не влияет.
• Короткие тексты распознаются хуже: при 200 токенах знак находят примерно в 80% случаев, при 400 - в 95%.
• Замена синонимами 10% слов снижает распознавание с 92% до 66%, а 25% слов - до 17%.
Детектор публично не выпускают: доступ получат только одобренные исследователи и экспертные организации.
Отсутствие водяного знака, подчеркивает OpenAI, не доказывает, что текст написал человек.
Кэпитал News