OpenAI zahlt Menschen dafür, dass sie Ihre Chats lesen. Hunderte von Auftragnehmern, die von OpenAI engagiert wurden, lesen die Gespräche der Nutzer mit ChatGPT im Rahmen des „Projekts Lily“. Sie können das gesamte Gespräch und die Antworten von ChatGPT sehen, und in einigen Fällen haben sie auch Zugriff auf Zusammenfassungen aus dem Gedächtnis des Modells.

Die Menschen vergleichen die Antworten des Chatbots, bewerten deren Richtigkeit, Nützlichkeit und Sicherheit, identifizieren Fehler und unerwünschtes Verhalten.