😱OpenAI почне непомітно маркувати тексти ChatGPT

Найближчими тижнями тексти, створені за допомогою ChatGPT і Codex для користувачів у ЄС, отримають невидимий водяний знак. Так OpenAI виконує вимоги європейського закону про штучний інтелект (AI Act).

Технологія отримала назву textGrain. Вона не додає до тексту прихованих символів чи пробілів, а дещо змінює вибір слів і токенів. У результаті формується статистичний шаблон, який може розпізнати спеціальний детектор.

Втім, технологія не є безпомилковою. Для тексту обсягом 200 токенів OpenAI виявляє водяний знак приблизно у 80% випадків, а для 400 токенів — уже у 95%. Якщо замінити синонімами лише 10% слів, точність виявлення може знизитися з 92% до 66%. Заміна 25% слів зменшує цей показник до 17%.

Поки що публічного детектора не буде. Доступ до нього нададуть дослідникам та експертним організаціям. Сам водяний знак не розкриває автора тексту, його обліковий запис, використаний запит чи конкретну розмову з ChatGPT.

Для API маркування вже доступне в усьому світі як додаткова функція, яка за замовчуванням вимкнена. У ChatGPT і Codex його спочатку запровадять лише для користувачів у ЄС. У майбутньому OpenAI планує відкрити технологію textGrain як програмне забезпечення з відкритим кодом.

Таким чином, визначити походження тексту, створеного ШІ, стане технічно можливим. Однак звичайне редагування, перефразування або переклад можуть суттєво послабити водяний знак. Тому textGrain варто розглядати як додатковий спосіб перевірки походження тексту, а не як надійний детектор ШІ.

#ШІновини