사람들이 당신의 ChatGPT 대화를 읽고 있습니다 원문

404 Media의 새로운 조사 보도에 따르면 OpenAI는 ‘Project Lily’의 일환으로 실제 ChatGPT 대화를 검토할 계약직 직원 수백 명을 고용

검토자들은 프롬프트와 전체 대화를 읽은 뒤 향후 모델 개선을 위해 ChatGPT의 답변을 평가하고 비평하는 것으로 전해졌음

이 대화에는 매우 사적인 내용이 담기기도 함

사용자들은 연애 문제와 정신건강 문제부터 민감한 업무 정보와 개인정보까지 다양한 내용을 공유한 것으로 전해졌고

OpenAI는 대화가 검토자에게 전달되기 전에 개인정보를 제거하려고 노력한다고 밝혔지만 민감한 내용이 여전히 걸러지지 않을 수 있다는 점을 인정

계약직 검토자들에게 사용자의 ChatGPT 사용자명은 표시되지 않는 것으로 보이지만

한 프롬프트 검토자는 404 Media에 대부분의 사용자가 ‘어딘가의 계약직 직원’이 자신의 대화를 분석할 수 있다는 사실을 알고 있다고 생각하지 않는다고 말했음

Anthropic도 모델 개선을 위해 사람의 검토를 활용하고 있다고 확인했습니다.