앤트로픽, 클로드 텍스트 워터마크 방식 공개

앤트로픽(Anthropic)이 클로드(Claude)가 생성한 텍스트에 사람이 볼 수 없는 기계 판독형 워터마크를 넣는 방식을 공개했다. 유럽연합(EU) AI법의 투명성 의무에 대응한 조치지만, 이용자 사이에서는 번역·교정·코드 작업물까지 'AI 처리' 흔적이 남을 수 있다는 우려가 나왔다.

앤트로픽은 한국시간 15일 공개한 설명문에서 클로드의 텍스트 워터마크가 구글 딥마인드(Google DeepMind)의 신스아이디 텍스트(SynthID-Text) 접근법을 바탕으로 한다고 밝혔다. 회사는 워터마크가 출력 품질이나 내용에 실질적 영향을 주지 않고, 추가 토큰을 만들지 않아 비용도 늘리지 않는다고 설명했다.

작동 방식은 단어 선택 확률을 이용한다. 대형언어모델은 문장을 만들 때 다음 단어 후보를 고르는데, 의미 차이가 거의 없는 후보가 여러 개 있을 때 워터마크는 선택 기준을 조정해 통계적 패턴을 남긴다. 독자는 이를 알아차리지 못하지만, 키를 가진 탐지 시스템은 문장 배열을 분석해 클로드가 관여했을 가능성을 계산할 수 있다.

앤트로픽은 이 표식이 특정 개인, 조직, 대화 내용을 식별하지 않는다고 밝혔다. 워터마크가 뜻하는 것은 '클로드가 텍스트 처리에 관여했을 가능성'이지 원저자가 누구인지에 대한 증명은 아니다. 회사는 워터마크 탐지 API도 제공할 예정이다.

이번 조치는 EU AI법과 맞물려 있다. EU 집행위원회는 7월 20일 공개한 지침에서 AI법 제50조의 투명성 의무가 2026년 8월 2일부터 적용된다고 밝혔다. 해당 조항은 생성형 AI가 만든 합성 오디오·이미지·비디오·텍스트 출력에 기계가 읽을 수 있는 표시를 요구한다.

신스아이디는 AI 생성물에 사람이 알아보기 어려운 표식을 넣고, 사후 탐지 시스템이 이를 판별하도록 설계된 워터마킹 기술이다. 텍스트에서는 문장 안에 별도 문자를 숨기는 방식이 아니라 토큰 선택 과정에 패턴을 심는다. 이 때문에 원문을 읽는 사람에게는 일반 문장과 거의 구분되지 않는다.

구글 딥마인드는 신스아이디가 텍스트 생성 과정에서 토큰 확률을 조정해 워터마크를 넣는 기술이라고 설명해왔다. 오픈AI(OpenAI)도 5월 19일 콘텐츠 출처 표기 업데이트에서 C2PA와 구글 신스아이디 기반 워터마킹을 이미지에 적용하고, 7월 31일에는 오디오로 확장했다고 밝혔다. 대형 AI 기업들이 생성물 출처 표시 체계를 넓히는 흐름은 확인된다.

앞선 본지 보도에서도 클로드 생성 텍스트에는 내장형 워터마크를 넣고 지원 파일에는 디지털 서명 방식의 출처 메타데이터를 붙이는 구조가 확인됐다. 파일에 붙는 C2PA 방식은 결과물의 메타데이터에 출처 기록을 남기는 데 가깝고, 텍스트 워터마크는 내용 자체의 선택 패턴을 분석 대상으로 삼는다는 점에서 다르다.

반응은 갈렸다. 투명성 강화가 필요하다는 쪽은 AI 생성물을 사람 작성물과 구분할 수 있는 기술적 장치가 필요하다고 본다. AI 결과물이 검색, 교육, 업무 문서, 창작물에 섞이는 상황에서 출처 표시 체계가 없으면 검증 비용이 커질 수 있다는 논리다.

반대 쪽은 워터마크가 실제 업무에서 '작성'과 '보조'를 구분하지 못할 수 있다고 우려한다. 비즈니스인사이더(Business Insider)는 일부 클로드 이용자들이 워터마크를 이유로 구독을 취소했다고 보도했다. 이용자들은 코드 작성, 번역, 교정, 초안 정리처럼 사람이 만든 작업물에 AI가 일부만 관여한 경우에도 표식이 남을 수 있다는 점을 문제 삼았다.

앤트로픽은 이런 경우에도 워터마크가 저작권이나 소유권을 바꾸지 않는다고 설명했다. 워터마크 탐지는 클로드가 텍스트 처리에 관여했을 가능성을 보여주는 신호일 뿐, 문서 전체가 클로드로 작성됐다는 결론으로 이어지지는 않는다. 업무 현장에서는 탐지 결과를 문서 작성 경위와 함께 해석해야 한다는 지적이 나오는 배경이다.

기술적 한계도 있다. 앤트로픽은 짧은 표본이나 사실 중심 문장, 교정처럼 모델이 선택할 단어가 적은 작업에서는 탐지가 잘 작동하지 않을 수 있다고 밝혔다. 완전한 재작성은 워터마크를 약화하거나 제거할 수 있다는 점도 인정했다.

이는 워터마크가 출처 검증의 보조 수단이지 단독 판정 도구가 아니라는 뜻이다. 긴 창작문처럼 모델의 선택지가 많은 출력에서는 패턴이 남기 쉽지만, 숫자·고유명사·정형 문장이 많은 텍스트에서는 신호가 약해질 수 있다. 탐지 결과를 징계나 저작권 판단의 직접 근거로 삼을 경우 분쟁이 생길 여지도 있다.

국내 이용자에게도 영향은 작지 않다. 클로드를 번역, 교정, 개발 보조, 기업 문서 작성에 쓰는 경우 최종 산출물이 AI 생성물인지 AI 보조 작업물인지 설명해야 하는 상황이 생길 수 있다. 특히 학교, 언론, 기업 보안 부서처럼 작성 경위를 따지는 조직에서는 탐지 기준과 소명 절차를 따로 정해야 한다.

이 사안은 AI 생성물 식별과 이용자 신뢰 사이의 균형 문제로 좁혀진다. 투명성 의무는 강화됐지만 워터마크가 실제 업무 현장에서 작성과 보조를 어떻게 구분할지는 별도 과제로 남았다. 앤트로픽은 워터마크 탐지 API를 제공할 예정이며, EU AI법 투명성 의무는 2026년 8월 2일부터 이미 적용되고 있다.