📱 ChatGPT начнет незаметно маркировать тексты в ЕС

OpenAI объявила, что в ближайшие недели начнет добавлять невидимые водяные знаки к текстам ChatGPT и Codex в Евросоюзе.Это связано со ⁠статьей 50 европейского AI Act, которая требует, чтобы созданный или изменённый ИИ контент можно было распознавать в машиночитаемом формате.

😶‍🌫️Маркировка не будет видна пользователю. Технология textGrain оставляет статистический сигнал в выборе слов, который затем можно попытаться обнаружить специальным детектором.

❗️ Но есть важный нюанс: даже OpenAI признает, что такой детектор не способен безошибочно определить, написал текст человек или ИИ. В тестах на текстах длиной 400 токенов водяной знак обнаруживался примерно в 92% случаев. Но после замены всего 10% слов синонимами показатель падал до 66%, а после замены четверти слов — до 17%. С короткими текстами и текстами с ограниченной вариативностью, например математическими, ситуация еще сложнее.

📌Доступ к детектору пока получат только одобренные исследователи и экспертные организации.

🟢 Подписывайтесь, будет интересно։ t.me/antiDote_tg