앤트로픽, 일부 AI 모델 입력·출력값 30일 보관

앤트로픽이 일부 고성능 인공지능 모델의 입력값과 출력값을 30일간 보관하기로 하면서 기업 고객의 데이터 통제 문제가 쟁점으로 떠올랐다. 마이크로소프트($MSFT)는 정책을 검토하는 동안 직원들의 클로드 페이블 5 사용을 제한한 것으로 전해졌다.

앤트로픽은 6월 9일 클로드 페이블 5와 클로드 미토스 5를 공개하며 미토스급 모델에 입력값과 출력값을 30일간 보관한다고 밝혔다. 여러 요청에 걸친 오용과 사이버 공격을 탐지하려면 일정 기간 데이터 보관이 필요하다는 설명이다.

앤트로픽은 보관 데이터를 새 모델 학습이나 안전성과 무관한 목적으로 사용하지 않는다고 밝혔다. 정책 적용 범위는 앤트로픽이 지정한 해당 모델과 계약 조건에 따라 확인할 필요가 있다.

정책 대상에는 기존에 ‘제로 데이터 보관(ZDR)’ 계약을 사용하던 기업 고객도 포함됐다. 앤트로픽 개인정보 보호센터 문서에는 클로드 페이블 5와 5.1의 프롬프트와 출력값을 안전성 검토를 위해 30일간 보관한다고 명시돼 있다.

보관 기간이 끝난 데이터는 자동 삭제가 원칙이다. 다만 안전 시스템에 표시됐거나 법적 보관 의무가 있는 데이터는 예외적으로 남을 수 있다.

마이크로소프트는 이 정책을 검토하는 동안 직원들의 클로드 페이블 5 접근을 제한한 것으로 보도됐다. 테크레이더는 고객 정보와 기업 기밀이 앤트로픽에 보관될 가능성에 대한 우려가 내부 사용 제한으로 이어졌다고 전했다.

마이크로소프트가 직원들의 사용을 어느 범위까지, 얼마나 오래 제한했는지는 공식적으로 공개되지 않았다. 다만 기업 고객이 모델 성능뿐 아니라 입력 데이터의 저장 방식과 접근 권한을 계약 조건으로 검토하고 있다는 점은 드러났다.

제로 데이터 보관은 서비스 제공자가 이용자의 입력값과 출력값을 보관하지 않는 방식이다. 기업용 인공지능에서는 데이터가 저장되는 위치와 삭제 시점, 안전성 검토 과정에서 사람의 접근이 가능한지 등이 주요 심사 항목으로 다뤄진다.

금융·의료·법률 분야처럼 고객 정보와 비공개 자료를 다루는 업종에서는 이 문제가 특히 중요하다. 외부 인공지능 서비스에 입력되는 자료가 공급업체의 시스템에 남을 경우, 기업의 보안·규제 준수 절차가 추가로 필요할 수 있기 때문이다.

앤트로픽은 9월 1일 ‘Enterprise Frontier Safeguards’를 공개하며 고객이 통제하는 클라우드 환경에 데이터를 저장하는 방안을 제시했다. 회사는 100곳 이상의 고객과 협력해 이 체계를 개발했다고 밝혔다.

이 구조에서는 고객 측 인프라와 암호화 키, 감사 로그를 활용해 데이터 통제권을 기업에 두는 방식이 적용된다. 앤트로픽은 해당 서비스를 2026년 가을부터 단계적으로 제공할 예정이다.

앤트로픽은 같은 시기에 공개한 클로드 페이블 5.1에도 ZDR과 유사한 보호 수준을 유지하면서 오용 감시를 이어가는 기업용 안전장치를 소개했다. Axios는 앤트로픽이 해당 장치를 도입했다고 보도했으며, 이 기능이 모든 기업 고객에게 즉시 적용되는 것은 아니고 단계적으로 제공된다고 전했다.

앤트로픽의 데이터 보관 정책과 기업용 저장 구조는 기업 고객의 데이터 저장 위치 선택권을 확대하려는 흐름과 맞물린다. 고객 데이터 보관을 완전히 없애기보다, 저장 위치와 접근 통제권을 고객 측으로 옮기는 방식이다.

경쟁사도 다른 해법을 제시했다. Axios는 오픈AI가 8월 19일 ‘Private Safety Processing’을 공개하고 고객 데이터를 보관하지 않고도 여러 상호작용에 걸친 오용 패턴을 탐지하는 방안을 시험한다고 보도했다.

오픈AI가 제시한 방식에는 고객 통제 인프라에 데이터를 두거나 고객이 관리하는 암호화 키를 사용하는 방안이 포함됐다. 기업용 인공지능 시장에서 안전성 검토와 데이터 비보관을 동시에 충족하려는 경쟁이 이어지는 모습이다.

앤트로픽의 30일 보관 정책이 실제 계약 조건과 기업 고객의 모델 선택에 어떤 변화를 가져올지는 고객 통제형 저장 구조가 단계적으로 출시된 뒤 확인될 예정이다.