유튜브, 정치인·언론인까지 ‘딥페이크 탐지’ 확대…전문가 “탐지 중심 접근은 결국 한계”

유튜브가 정치인과 언론인을 대상으로 AI 딥페이크 탐지 도구 적용 범위를 확대하며 합성 콘텐츠 대응에 나섰다. 그러나 기술 전문가들은 ‘탐지 중심 접근’만으로는 빠르게 진화하는 생성형 AI 환경을 따라잡기 어렵다고 경고했다.

11알 해시그래프 그룹(The Hashgraph Group)의 공동 창립자이자 최고경영자(CEO)인 스테판 다이스(Steffan Deiss)는 딥페이크 대응이 “빅테크가 이기기 어려운 추격전”이 되고 있다고 지적했다.

유튜브는 최근 AI 기반 딥페이크 탐지 기술의 적용 범위를 확대해 정치인과 언론인을 포함한 공적 인물 보호를 강화하고 있다. 이는 합성 이미지·영상·음성 등 이른바 ‘합성 콘텐츠(synthetic content)’ 확산에 대응하기 위한 조치로 평가된다. 하지만 이러한 탐지 중심 대응 방식이 근본적인 해결책이 되기 어렵다는 분석이 나온다.

다이스는 “가짜 이미지·영상·음성을 생성하는 AI 기술은 이를 탐지하려는 시스템보다 더 빠르게 발전하고 있다”며 “새로운 탐지 기술이 등장할 때마다 다음 세대 딥페이크가 이를 어떻게 회피할지 학습하게 되는 구조”라고 설명했다. 이어 “플랫폼이 설득력 있는 가짜 콘텐츠를 식별하는 시점에는 이미 피해가 발생했을 가능성이 높다”고 말했다.

그는 딥페이크 대응의 방향이 ‘가짜를 찾는 것’이 아니라 ‘진짜를 증명하는 것’으로 전환돼야 한다고 강조했다. 다이스는 “진짜 해결책은 확산된 이후 가짜를 추적하는 것이 아니라 처음부터 무엇이 진짜인지 증명하는 것”이라고 말했다.

또한 이러한 접근 방식은 이미 인터넷의 핵심 인프라에서 활용되고 있는 암호학 기술을 기반으로 한다고 설명했다. 그는 “암호학은 은행 시스템, 메시징 서비스, 사이버보안, 디지털 신원 등 인터넷 전반을 지탱하는 기술”이라며 “같은 원리를 미디어 콘텐츠에도 적용할 수 있다”고 밝혔다.

다이스에 따르면 분산원장 기술과 같은 시스템을 활용하면 콘텐츠가 생성된 출처와 이후 수정 여부를 암호학적으로 증명할 수 있다. 그는 “콘텐츠에 생성 시점의 암호학적 증명을 부여하면 어디에서 만들어졌고 이후 변경됐는지 여부를 확인할 수 있다”며 “딥페이크를 끝없이 탐지하려 하기보다 콘텐츠의 진위를 수학적으로 즉시 검증하는 방식이 가능하다”고 말했다.