클로드 텍스트 워터마크, 코드 영향은 제한적

앤트로픽(Anthropic)이 클로드(Claude) 생성 텍스트에 보이지 않는 워터마크를 넣는 방식을 공개했다. 독자가 문장에서 식별할 수 있는 표시가 아니라 단어 선택 과정에 통계적 패턴을 남기는 구조다.

앤트로픽은 15일(한국시간) 공식 글에서 향후 클로드 모델이 워터마크가 포함된 텍스트를 생성한다고 밝혔다. 이번 조치는 유럽연합(EU) AI법 투명성 의무에 대응하기 위한 것으로, 앞서 발표한 클로드 생성 텍스트 워터마크 적용 방침의 작동 방식을 구체화한 내용이다.

핵심은 의미 차이가 크지 않은 선택지에서 나온다. 대형언어모델은 문장을 만들 때 다음 단어 후보를 고르는데, 클로드는 낮은 위험의 선택 구간에서 특정 키와 앞선 단어 흐름을 바탕으로 선택 패턴을 만든다. 사람은 이 차이를 읽을 수 없지만, 키를 가진 탐지 시스템은 클로드가 문장 작성에 관여했을 가능성을 계산할 수 있다.

앤트로픽은 워터마크가 텍스트에 별도 문자를 추가하지 않고 숨겨진 문자도 넣지 않는다고 밝혔다. 추가 토큰이 발생하지 않아 이용 비용을 높이지 않고, 개인·조직·대화 내용을 식별하는 정보도 담지 않는다는 설명이다. 회사는 "워터마크는 클로드와 그 출력물에 적용되는 것이며 개별 사용자를 식별하지 않는다"고 밝혔다.

방식은 구글 딥마인드(Google DeepMind)의 SynthID-Text 접근법을 따른다. 구글 딥마인드는 2024년 SynthID가 텍스트 생성 과정에서 토큰 확률을 조정해 사람이 볼 수 없는 워터마크를 넣는다고 설명했다. 앤트로픽은 이 기법이 출력 품질, 창의성, 가독성에 실질적 영향을 주지 않는다고 밝혔다.

텍스트 워터마크는 기존 AI 탐지기와도 다르다. 기존 탐지기는 문체나 자주 쓰는 표현 같은 흔적을 분석해 AI 작성 가능성을 추정하는 방식이 많다. 반면 클로드의 방식은 생성 단계에서 신호를 심고, 나중에 해당 신호가 남아 있는지를 확인하는 구조다.

다만 워터마크가 모든 상황에서 같은 강도로 작동하는 것은 아니다. 사실관계가 정해진 문장이나 짧은 문단은 선택지가 적어 탐지 신뢰도가 낮아질 수 있다. 사람이 쓴 글을 클로드가 맞춤법이나 문장부호만 고치는 경우에도 클로드가 새로 고른 단어가 적어 워터마크가 붙을 공간이 제한된다.

코드도 영향이 제한적이다. 코드는 작동 여부가 중요해 임의 선택의 여지가 작다. 앤트로픽은 코드 안 주석처럼 단어 선택이 가능한 영역에는 워터마크가 쓰일 수 있지만 실제 코드 산출물에 미치는 영향은 작다고 설명했다.

개발자 입장에서는 품질 저하보다 산출물 식별 문제가 먼저 논의될 사안이라는 뜻이다. 클로드가 변수명이나 주석처럼 선택 가능한 표현을 고르는 영역에서는 신호가 남을 수 있지만, 실행 결과가 달라질 수 있는 코드 구조 자체에는 선택 폭이 좁기 때문이다.

편집으로 워터마크를 없앨 수 있는지도 쟁점이다. 앤트로픽은 가벼운 수정만으로는 워터마크가 완전히 사라지지 않을 가능성이 크지만, 모든 단어를 바꾸는 전면 재작성은 워터마크를 제거할 수 있다고 밝혔다. 이 경우 해당 글을 여전히 AI 생성물로 볼 수 있는지는 별도 판단 문제라고 덧붙였다.

파일에는 다른 방식이 쓰인다. 클로드가 PNG, JPG, SVG 같은 지원 파일을 만들면 C2PA 표준에 따른 콘텐츠 자격증명이 메타데이터 형태로 붙는다. 이는 텍스트 워터마크처럼 내용 안에 숨기는 방식이 아니라 파일이 클로드로 만들어지거나 처리됐다는 서명된 기록을 붙이는 구조다.

EU AI법 제50조는 AI가 생성하거나 조작한 콘텐츠를 기계가 읽을 수 있는 형식으로 표시하도록 요구한다. 앤트로픽은 워터마크 탐지 API를 제공할 계획이며, 기존 클로드 모델에도 EU 법의 전환 기간에 맞춰 앞으로 몇 달 동안 워터마크 적용을 진행한다.