오픈AI, 삭제된 챗GPT 대화까지 보존… 사용자 프라이버시 논란 증폭

오픈AI가 최근 연방 법원의 명령에 따라 삭제된 챗GPT 대화 기록까지 보존하고 있다는 사실이 드러나면서 사용자들 사이에서 프라이버시 우려가 확산되고 있다. 그간 임시 채팅 기능과 사용자 삭제 기능을 통해 개인 정보 보호가 가능하다고 밝혀 온 오픈AI는, 이와 상반된 데이터 보존 조치를 숨겨왔다는 비판에 직면했다.

논란의 시작은 일부 사용자들이 삭제했다고 여겼던 챗GPT 대화 기록이 실제로는 여전히 서버에 보관되고 있다는 사실이 온라인 커뮤니티를 통해 알려지면서다. 오픈AI는 2025년 5월 중순부터 삭제된 세션까지 보존하기 시작했으며, 이에 대한 대중 공지는 6월 5일이 되어서야 이루어졌다. 회사 측은 이 조치가 미국 맨해튼 연방법원 오나 T. 왕 판사의 지시에 따른 것이라고 해명했다. 해당 명령은 뉴욕타임스(NYT)가 오픈AI와 마이크로소프트(MSFT)를 상대로 제기한 저작권 침해 소송의 일환이다.

NYT 측은 오픈AI의 언어모델이 자사의 저작물을 무단으로 재현했다고 주장하며, 삭제된 대화 속에도 해당 증거가 포함될 수 있다고 보고 있다. 이에 대해 오픈AI는 법원의 명령을 따르는 동시에, 커뮤니티 및 사용자의 혼란 해소를 위해 공식 블로그를 통해 세부 내용을 설명했다. 해당 명령은 삭제된 대화뿐 아니라, 비정규적인 임시 대화까지 보존 대상으로 포함하고 있기 때문이다.

오픈AI 최고운영책임자 브래드 라이트캡(Brad Lightcap)은 블로그에서 “법원 명령에 따라 삭제된 사용자 데이터도 별도 보관되고 있지만, 이는 엄격히 통제된 저장소에 보관되며 소수의 법무 및 보안 인력만 접근할 수 있다”고 강조했다. 이 데이터는 더 이상 사용자 요청에 따라 제거되지 않으며, 챗GPT 무료, 플러스, 프로, 팀 요금제 사용자와 API 고객 중 ZDR(Zero Data Retention) 계약이 없는 경우에 해당한다. 반면, 챗GPT 엔터프라이즈 및 교육용 요금제 이용자, ZDR 엔드포인트를 사용하는 API 고객의 데이터는 기존 방침대로 삭제된다.

오픈AI는 이번 조치에 대해 "NYT 측의 과도한 요구가 개인정보 보호 약속을 위협하고 있다"며 강하게 반발해왔다. 샘 알트먼(Sam Altman) CEO는 개인 SNS를 통해 “이러한 요청은 사용자 프라이버시를 침해하는 선례를 남길 수 있다”며, 해당 명령에 대한 항소와 반대 입장을 공식화했다. 그는 동시에 AI와 사용자 간 대화를 법적으로 보호할 수 있는 ‘AI 특권(AI Privilege)’ 개념을 제시하며, 이를 법률 및 윤리 체계 차원에서 새롭게 논의할 시점이라고 주장했다.

알트먼의 제안은 기존 변호사-의뢰인 혹은 의사-환자 간 비밀 보장 원칙처럼, AI와의 상호작용도 동일한 수준의 비공개 보호를 받을 수 있어야 한다는 인식에서 출발한다. 이는 향후 AI 프라이버시의 제도적 근간을 강화할 가능성을 시사하며, 업계 전반에 걸쳐 법적 기준 논의로 확산될 조짐을 보이고 있다.

현재 오픈AI는 법원에 보존 명령 철회를 요청한 상태이며, 이에 대한 검토 과정이 이어지고 있다. 오나 T. 왕 판사는 지난 5월 27일 심리에서 해당 명령이 일시적이라는 점을 밝히고, 삭제된 사용자 데이터가 주요 증거로 작용할 수 있는지를 평가하기 위한 샘플링 계획 제출을 요구한 것으로 알려졌다.

이번 사안은 단순한 데이터 보존을 넘어, AI 도입을 고려하는 기업과 기관에게 새로운 리스크 관리 프레임워크를 요구하고 있다. 사용자 데이터의 수명 주기를 어떻게 설정할지, 시스템 간 데이터 이전 과정에서 어떤 통제가 필요한지를 명확히 정립해야 하는 시점이 된 것이다. 특히 ZDR 엔드포인트를 사용하더라도 부가적인 기록 시스템이나 백업 환경이 데이터를 유지하고 있을 수 있음에 따라, 전사적 데이터 정책 재점검이 이뤄져야 한다는 목소리가 높다.

결국 이번 논란은 사용자 프라이버시와 AI 플랫폼 운영 간 균형이라는 오래된 난제 위에, 법의 판단과 기술 발전이라는 새로운 불확실성이 더해진 셈이다. 오픈AI와 NYT 간의 소송이 어떤 결론에 도달하더라도, 챗GPT 사용자와 AI 도입을 고려하는 조직들은 이제 단순한 데이터 삭제 기능 그 이상을 요구받고 있다. AI 기술의 신뢰성과 윤리적 운영을 둘러싼 기준 마련이 촉박한 과제로 떠오르고 있다.