OpenAI Сэма Альтмана наняла и продолжает нанимать сотни сотрудников для анализа и чтения пользовательских сообщений, включая сообщения, содержащие конфиденциальную личную информацию. Это, по данным 404 Media, не является частью модерации. Используя анализ сообщений, OpenAI надеется улучшить ответы, которые дает ChatGPT. Внутренние документы показывают, что основное внимание уделяется тому, чтобы ChatGPT меньше прибегал к антропоморфизации и был менее подобострастным.

Оба эти свойства — антропоморфизация и подобострастие — изучаются на предмет их роли в так называемом психозе ИИ, случаях, когда ИИ провоцирует и управляет бредовым поведением пользователя..В том числе доводит его до самоубийства. То есть цель компании, как всегда, благая.

Сколько запросов пользователей ИИ читается и как OpenAI решает их выбрать, остаётся неизвестным. Но некоторые из них включают чаты, в которых пользователь явно просит ChatGPT сохранить его разговоры в тайне.

Выбранные запросы анонимизируются, но иногда содержат личную информацию. Панель управления, используемая сотрудниками, также включает в себя "сводку воспоминаний пользователя", которая может предоставить подробную информацию о предыдущих разговорах, включая данные о месте жительства пользователя.

Самих желающих потолковать с GPT в известность о том, что эти диалоги будут использованы для улучшения ИИ, компания конечно не ставит.