404미디어 “오픈AI, 수백 명 계약자에 챗GPT 대화 검토 맡겨”

오픈AI(OpenAI)가 외부 계약자들에게 실제 챗GPT(ChatGPT) 이용자 대화를 읽히고 응답 품질을 평가하게 했다는 보도가 나왔다. 계약자들은 이용자 프롬프트와 챗GPT 답변을 검토했으며, 개인정보 고지 방식이 쟁점으로 떠올랐다.

404미디어(404 Media)는 14일 내부 지침서와 슬랙 채널, 실제 이용자 프롬프트를 근거로 오픈AI가 ‘Project Lily’를 통해 수백 명의 계약자를 모집했다고 보도했다. 계약자들은 이용자의 질문 의도를 요약한 뒤 챗GPT가 생성한 여러 답변을 읽고 품질을 1~7점으로 평가한 것으로 전해졌다.

평가 항목에는 챗GPT가 지나치게 인간적인 태도를 보이거나 이용자에게 과도하게 동조하는 현상을 줄이는 내용도 포함됐다. 다만 프로젝트가 어떤 모델을 대상으로 했는지는 공개되지 않았다.

계약자들은 Crossing Hurdles와 Mercor를 통해 모집된 것으로 전해졌다. 404미디어가 접촉한 한 작업자는 시간당 50달러 이상(약 6만7150원 이상)을 받는다고 말했지만, 전체 계약자 수와 보수 체계는 공개되지 않았다.

오픈AI는 계약자에게 대화가 전달되기 전 Privacy Filter를 적용해 이름·주소·이메일·전화번호·계좌번호 같은 개인정보를 탐지하고 삭제한다고 설명한다. Privacy Filter는 개인정보 비식별화 도구나 규제 준수 인증을 대체하지 않는 모델이다.

오픈AI는 Privacy Filter 공식 설명에서 이 도구가 드문 식별자나 모호한 개인정보를 놓칠 수 있다고 밝혔다. 법률·의료·금융처럼 민감한 분야에서는 사람의 검토와 별도 평가가 필요하다는 설명도 덧붙였다.

이름이나 계정 정보가 삭제돼도 대화 맥락만으로 이용자를 추정할 가능성은 남는다. 직업·거주지·사건 경위·가족관계처럼 여러 정보가 결합되면 특정 개인을 식별할 수 있기 때문이다.

오픈AI는 서비스 안전과 약관 위반 여부를 확인하기 위해 자동화 시스템과 사람 검토를 함께 활용한다고 공개해왔다. 다만 안전 위반 콘텐츠를 확인하는 절차와 모델의 말투·정확성·동조 성향을 개선하기 위한 계약자 검토는 목적이 다르다.

404미디어는 오픈AI에 이용자에게 사람의 프롬프트 검토 가능성을 명시적으로 알렸는지 물었지만, 오픈AI가 해당 질문에 직접 답하지 않았다고 전했다. 이번 보도에서 제기된 핵심 쟁점은 사람 검토의 존재 자체보다 그 범위와 고지 방식이다.

개인 이용자는 설정에서 ‘Improve the model for everyone’을 끄면 새 대화가 모델 개선에 사용되지 않도록 할 수 있다. 오픈AI 데이터 관리 안내에 따르면 Temporary Chat은 모델 개선에 사용되지 않고 30일 뒤 삭제되지만, 안전 목적의 제한적 검토 가능성은 남는다.

‘Improve the model for everyone’을 끈 설정이 과거 대화에 소급 적용되는지는 별도로 확인해야 한다. 404미디어는 해당 설정이 과거 대화에 소급 적용되지 않는다고 보도했으며, 오픈AI 도움말은 설정 변경 이후 새 대화에 관한 처리 원칙을 설명한다.

기업용 ChatGPT Business·Enterprise·Edu 계정은 기본적으로 대화가 모델 학습에 사용되지 않는다. 오픈AI는 기업용 개인정보 안내에서 안전·오용 조사와 법적 준수를 위해 승인된 직원이나 전문 외부 계약자가 제한적으로 대화에 접근할 수 있다고 설명한다.

미할 루리아(Michal Luria) 민주주의·기술정책센터 연구원은 인간 검토가 복잡한 챗봇 행동을 개선하는 데 필요할 수 있다고 평가하면서도, 대화형 인터페이스가 이용자에게 실제보다 강한 사적 공간의 인상을 줄 수 있다고 지적했다. 검토의 필요성과 이용자 기대 사이에 간극이 있다는 뜻이다.

사라 T. 로버츠(Sarah T. Roberts) UCLA 교수는 인간 검토자의 역할이 AI 서비스에서 과소평가되고 있다고 평가했다. 반면 레딧 이용자들은 개인정보 필터의 한계와 계약자 검토에 대한 사전 고지 부족을 비판했지만, 커뮤니티 반응은 독립적인 사실관계 증거로 볼 수 없다.

이번 보도는 챗GPT 대화가 모델 개선에 활용될 수 있다는 기존 정책보다, 실제 사람이 이용자 대화를 어느 범위까지 읽는지와 그 사실이 이용자에게 얼마나 분명하게 전달됐는지를 부각했다. 이용자는 계정 유형과 데이터 설정에 따라 새 대화와 기존 대화의 처리 조건을 구분해 확인할 필요가 있다.