앤트로픽(Anthropic)이 클로드(Claude) 생성 텍스트에 기계가 판독할 수 있는 워터마크를 넣고 있다는 보도가 다시 나왔다. 다만 클로드 전 제품군에 이를 적용했다는 회사의 공식 발표는 제시되지 않았다.
블록비츠(BlockBeats)는 11일 클로드와 클로드 코드(Claude Code), 코워크(Cowork), API를 비롯해 아마존웹서비스(AWS), 구글 클라우드(Google Cloud), 마이크로소프트 파운드리(Microsoft Foundry)에서 지원되는 모델에 워터마크가 적용된다고 전했다. 새 모델은 출시 시점부터 지원하고 기존 모델에는 순차적으로 적용하는 방식이라고 설명했다.
보도에 나온 워터마크는 파일에 붙는 별도 메타데이터가 아니라 생성된 텍스트 자체에 통계적 신호를 남기는 방식이다. 복사해 붙여넣은 뒤에도 신호가 남을 수 있지만, 짧은 문장이나 대폭 수정·번역한 문장에서는 탐지 정확도가 떨어질 수 있다고 전해졌다. 구체적인 알고리즘은 공개되지 않았다.
구글 딥마인드(Google DeepMind)의 신스아이디 텍스트(SynthID Text)는 대규모언어모델이 다음 토큰을 고르는 과정에 통계적 패턴을 삽입한다. 블록비츠는 이번에 전해진 방식이 이 기술과 유사할 수 있다고 추정했다.
이번 보도는 유럽연합(EU) AI법의 투명성 의무가 적용된 뒤 나왔다. EU AI법 제50조는 AI가 생성하거나 조작한 콘텐츠를 기계가 읽을 수 있는 형식으로 표시하도록 요구한다. 그러나 앞선 본지 검증에서도 앤트로픽의 공개 자료만으로는 클로드 전 제품군에 워터마크를 배포했다는 내용을 확인하지 못했다. 워터마크가 감지되더라도 문서 전체가 클로드로 작성됐다고 단정할 수는 없다.


