Сотни подрядчиков OpenAI читают переписки пользователей ChatGPT.

OpenAI привлекла сотни сторонних подрядчиков, которые вручную читают и оценивают реальные переписки пользователей с ChatGPT, сообщает 404 Media. Специалисты обучают языковые модели в рамках внутренней инициативы. Задача рецензентов — кратко сформулировать суть запроса человека и выставить баллы четырем сгенерированным ответам.

Хотя в рабочем интерфейсе скрыты имена учётных записей, а текст предварительно проходит через алгоритм Privacy Filter, конфиденциальные данные все равно доходят до людей. В OpenAI подтвердили, что фильтр может пропускать личную информацию. Более того, рецензентам часто виден блок, где указаны контекст прошлых обращений пользователя и его примерная геолокация.