Ваши переписки с ChatGPT читают живые люди

Прямо сейчас незнакомый человек может читать то, что вы вчера написали ChatGPT в три часа ночи.

Расследование издания 404 Media показало, что OpenAI наняла сотни подрядчиков, и их работа - читать реальные диалоги пользователей и оценивать ответы бота. Кодовое название внутри компании - Project Lily.

Сначала всё выглядит логично. Модель надо на чём-то учить, значит кто-то должен смотреть, хорошо ли она отвечает. Человек получает запрос пользователя, иногда всю переписку, и ставит оценку по шкале от 1 до 7, а потом объясняет, что поправить.

Среди задач - научить ChatGPT меньше подлизываться и не притворяться живым собеседником.

Юридически всё висит на одной галочке. Опция «улучшать модели» включена - и переписка законно уходит чужим людям. Но согласие по закону должно быть осознанным. А какое тут осознание, если о чтении вы узнаёте из расследования, а не из настроек?  

А теперь подвох. Мы часто пишем боту то, что не сказали бы никому, как психологу или другу, и не догадываемся, что это увидит посторонний.

Личные данные перед этим должен вычищать особый фильтр. Но OpenAI сама признаёт, что он ошибается и вычищает не всё. А над каждым запросом подрядчик видит сводку о вас: чем вы раньше пользовались и где примерно живёте.