EU AI Act, 생성 텍스트도 표시 의무…OpenAI는 이미지·오디오 신호 안내

EU AI Act는 AI가 생성한 텍스트를 포함한 합성 콘텐츠에 기계 판독 가능한 표시를 요구한다. OpenAI의 공식 안내는 현재 이미지·오디오의 출처 신호를 설명하며, 텍스트 워터마크 기능이나 API 설정은 다루지 않는다.

OpenAI 도움말은 지원 이미지에 C2PA 메타데이터와 SynthID 워터마크를, 지원 오디오에 SynthID 워터마크를 적용한다고 설명한다. 텍스트를 포함한 모든 콘텐츠 유형으로 출처 신호를 넓히는 것은 목표로 제시했다.

개발자 문서의 Content Provenance API는 업로드한 이미지나 오디오 파일에서 지원되는 출처 신호를 확인하는 기능이다. 문서에는 이미지의 C2PA 정보와 이미지·오디오의 SynthID 확인이 적혀 있지만, 텍스트 워터마크를 설정하거나 검증하는 기능은 포함돼 있지 않다.

EU AI Act 제50조 2항은 합성 오디오·이미지·영상·텍스트를 생성하는 시스템 제공자가 결과물을 기계가 판독할 수 있도록 표시하고, 인공적으로 생성·조작된 콘텐츠임을 탐지할 수 있게 하도록 규정한다. 표시 방식은 콘텐츠의 특성과 기술적 실현 가능성을 고려해야 하며, 법 조항이 특정 워터마킹 기술이나 제품별 기본 설정을 지정한 것은 아니다.

유럽연합 집행위원회는 제50조 투명성 의무가 2026년 8월 2일부터 적용된다고 안내했다. 그 전에 시장에 나온 시스템의 생성 콘텐츠 표시·탐지 의무에는 2026년 12월 2일까지 유예가 적용된다.

집행위원회는 2026년 6월 AI 생성 콘텐츠 투명성 실천규범(Code of Practice)을 공개했다. 서명은 자발적이며, 참여자가 의무 준수 방안을 마련할 때 법적 예측 가능성을 얻도록 돕는다는 취지다.

EU AI Act 제50조는 사람에게 AI와 상호작용 중임을 알리는 의무, 생성 콘텐츠 표시 의무, 딥페이크와 공익 관련 텍스트의 공개 표시 의무를 구분한다. 생성 콘텐츠 표시 조항은 텍스트를 포함하지만, 모든 AI 텍스트에 똑같은 워터마크를 적용하라고 정하지는 않는다. 본지 보도에서도 제50조의 투명성 의무와 생성물 표시를 다룬 바 있다.

OpenAI는 2024년 텍스트 출처 확인을 위해 분류기·워터마킹·메타데이터 등 여러 방법을 연구하고 있다고 밝혔다. 당시에는 비영어권 이용자가 AI를 글쓰기 보조에 활용한 경우 낙인찍힐 수 있다는 우려도 언급했다. 이 발표는 최근 텍스트 워터마크 출시를 알린 내용은 아니다.

따라서 EU 이용자의 ChatGPT 출력에 텍스트 워터마크가 이미 적용됐거나 API에서 이를 선택할 수 있다는 주장은 공식 문서로 뒷받침되지 않는다. 현재 확인되는 OpenAI의 출처 확인 안내는 이미지와 오디오를 대상으로 한다.