📕 Ваши чаты с ChatGPT могут читать живые люди! Зачем это делают и как это отключить?

OpenAI нанимает сотни подрядчиков, которые читают чаты пользователей и оценивают ответы ChatGPT. Все это называется Project Lily. И у издания 404 Media вышла большая статья про то, как там все устроено.

Зачем это нужно? Так улучшают AI-модель. Оказывается, модель обучается не только на новых данных, но и за счет труда сотен людей, которые в ручную отсматривают промпты пользователей и оценивают ответы ChatGPT. Подрядчик, с которым говорило издание 404 Media, получает за это около $50 в час.

Как пишет 404 Media, сначала сотрудник должен прочитать промпт пользователя и описать, что он хочет. Затем он читает ответы ChatGPT и оценивает их по шкале от 1 до 7. Смотрят, насколько соответствует ответ запросу, длинный ли он, много ли в нем эмоджи и типичных для AI фраз, какой тон у ответа — он не должен быть подобострастным и так далее.

В итоге, подрядчик заполняет специальную форму, отправляет ее OpenAI. И ее используют для улучшения ответов ChatGPT.

Где именно сидят эти подрядчики, не очень понятно. Например, человек, с которым общалось издание, находится в Северной Америке. Но он лишь один из сотен. Де-факто, всех этих подрядчиков предоставляет и расплачивается с ними компания Mercor. С ней раньше работала и запрещенная в России Meta, но перестала после утечки данных.

Получается, кто-то читает всю нашу переписку? В OpenAI утверждают, что все анонимно. И что перед тем, как отправить переписку подрядчикам, они прогоняют ее через специальный сервис, который удаляет всю личную информацию. Но 404 Media отмечает, что часть личной информации иногда может сохраниться.

При этом пользователям вроде как не сообщали, что их переписку будет кто-то читать. Но после запроса 404 Media OpenAI добавила такое предупреждение. Кстати, издание пишет, что подобная практика есть и у Google, и у Anthropic.

Как это отключить? В OpenAI заявили изданию, что не будут использовать чаты тех пользователей, у которых в настройках отключена функция «улучшение модели для всех» (improve the model for everyone). Так что если переживаете, то проверьте настройки.

Вас беспокоит, что кто-то может читать вашу переписку с ChatGPT?

🤬 — Конечно! Это ужасно!
❤️ — Да пусть читают!

P.S. Читая статью, я все думал про недавний кейс с математиками. У них как раз претензия в том, что OpenAI могла получить доступ к их чатам с ChatGPT и «списать» доказательства. В OpenAI тогда говорили, что у них нет доступа к пользовательским чатам. Но вот получается, что если для обучения модели, то доступ есть? Или как?

@TheEdinorogBlog — тот самый канал про стартапы🦄