오픈AI, 기업 데이터 안 남기는 안전점검 시험

오픈AI(OpenAI)가 기업 고객 데이터를 보관하지 않으면서도 여러 대화에 걸친 오용 신호를 점검하는 새 안전 체계를 일부 고객에게 시험 제공한다. 고성능 인공지능(AI) 모델 경쟁의 축이 성능뿐 아니라 기업 데이터 보호 방식으로도 넓어지는 흐름이다.

오픈AI가 ‘프라이빗 세이프티 프로세싱(Private Safety Processing)’을 일부 기업·API 고객 대상으로 미리 공개했다고 테크크런치(TechCrunch)는 보도했다. 이 체계는 여러 대화에 걸친 입력과 출력을 자동으로 살피되 고객 데이터를 보관하지 않는 방식으로 설계됐다.

핵심은 제로 데이터 보관(ZDR) 적용 범위다. 오픈AI는 기존 API에서 세션 단위로 오용 여부를 점검해 왔다. 새 체계는 한 차례 대화가 아니라 여러 세션에 걸쳐 나타나는 패턴을 분석한다.

오픈AI는 악성 사용자가 사이버 공격용 악성코드 작성 요청을 여러 대화로 쪼개 탐지를 피하는 경우를 예로 들었다. 프라이빗 세이프티 프로세싱은 이런 요청이 여러 세션에 흩어져 있더라도 오용 신호를 자동으로 살피는 구조다.

오픈AI는 시스템이 특정 위험 신호를 감지하면 좁게 정의된 신호만 회사에 전달한다고 설명했다. 필요할 경우 고객에게 추가 맥락을 요청할 수 있으며, 고객 대화 내용을 사람이 직접 들여다보는 방식은 아니라고 밝혔다.

제로 데이터 보관은 고객의 입력과 출력 데이터를 서비스 제공 뒤 회사가 보관하지 않는 방식을 뜻한다. 기업용 AI에서는 모델 성능만큼이나 데이터가 어디에 남는지, 사람 검토 가능성이 있는지, 감사 로그가 어떻게 관리되는지가 계약 조건으로 다뤄진다.

이번 시험은 앤트로픽(Anthropic)의 고성능 모델 데이터 보관 정책과 맞물려 있다. 앤트로픽은 개인정보 보호 안내문에서 미토스 계열 모델과 유사 성능의 향후 모델을 커버드 모델로 분류하고, 해당 모델의 프롬프트와 출력물을 30일 동안 보관할 수 있다고 밝혔다.

앤트로픽은 해당 정책을 7월 발표했으며, 일부 오용은 여러 요청을 함께 봐야 드러날 수 있다는 취지로 설명했다.

앤트로픽은 자동 안전 시스템이 유해 가능성을 표시한 경우 제한된 승인 검토자가 통제된 경로로 내용을 볼 수 있다고 설명했다. 모든 접근은 변경할 수 없는 로그에 기록된다고 밝혔다.

두 회사의 차이는 금융, 의료, 법률, 보안 업무를 다루는 기업에 민감한 문제다. 이런 기업은 AI 모델에 입력한 데이터가 회사 밖에 얼마나 남는지, 안전 점검 과정에서 누가 볼 수 있는지를 따진다.

오픈AI도 기업용 데이터 보호 설명에서 조직 데이터는 기본적으로 모델 학습에 쓰지 않는다고 밝히고 있다. 적격 조직은 API에서 제로 데이터 보관 정책을 선택할 수 있다는 설명도 내놓고 있다.

AI 안전 경쟁도 배경이다. 고성능 모델은 코드 작성, 사이버 분석, 장기 작업 수행 능력이 커질수록 단일 대화만으로 오용을 가려내기 어려워진다. 본지는 앞서 오픈AI와 앤트로픽이 고성능 AI 접근을 제한적으로 운용한 흐름을 보도했다.

이번 사안은 접근 제한에 이어 고객 데이터 보관 여부가 기업용 AI 경쟁의 비교 항목으로 떠올랐다는 점에서 이어진다. 통상 기업은 AI 도입 때 성능, 비용, 보안 통제, 데이터 보관 조건을 함께 검토한다.

오픈AI의 새 체계는 개인용 챗GPT 이용자가 아니라 일부 기업·API 고객을 대상으로 미리 공개됐다. 정식 제공 시점과 적용 모델 범위는 공개되지 않았다.