ChatGPT в Европе начнёт метить текст

OpenAI рассказала в официальном анонсе, как будет выполнять требование закона ЕС об ИИ: сгенерированный текст должен распознаваться машиной. Технология называется textGrain. В выбор слов модели подмешивается невидимый статистический сигнал, глазом его не найти

Кого это касается:
— пользователей ChatGPT и Codex в ЕС на всех тарифах, метка появится в ближайшие недели;
— тех, кто работает через API: включить метку можно самим, по умолчанию она выключена;
— исследователей и экспертные организации, заявки на доступ к детектору принимают уже сейчас

Обычному человеку проверить текст не получится: публичного детектора на старте не будет. Компания сама объясняет почему: ложные срабатывания и пропуски пока слишком вероятны. Короткие тексты метка ловит хуже: около 80% против 95% на длинных, и это при допуске в 1% ложных срабатываний

Отсутствие метки не доказывает, что писал человек. Текст могли перевести, поправить или взять из другой нейросети. Наличие метки не говорит ни о том, кто автор, ни о том, сколько в тексте человеческой работы. По-моему, это галочка для регулятора плюс материал для исследователей, а не инструмент для «ловли нейротекстов» 🤔

Разработчикам на API придётся решать самим, включать ли метку под свои обязательства по прозрачности. На тестах новой модели Astra разницы в качестве с меткой и без OpenAI не видит, но это её собственные замеры

Раз метку добавляют только в ЕС, европейский VPN для ChatGPT теперь не используем 🤷‍♂️

P.S. Облачным партнёрам метку обещают завезти в те же сроки, а код textGrain планируют открыть