'진짜 같은 가짜'가 넘쳐나는 시대
최근 SNS와 인터넷 서비스에는 AI가 만든 '진짜 같은 가짜 데이터'가 범람하고 있다. 얼마 전 한 국회의원이 AI로 생성한 합성 이미지를 SNS에 올렸다가 구설수에 오른 사건이 있었다. 실제 사진과 거의 구별할 수 없는 완성도에 깜빡 속았던 것일까?
더 심각한 사례도 있다. 얼마 전에는 AI로 만든 가짜 음성을 증거로 제출해 특정인을 성희롱으로 고소한 사건도 있었다. 다행히 포렌식으로 조작이 밝혀졌지만, 고소당한 당사자는 얼마나 황당하고 분노스럽고 두려웠을까? 2024년 2월 홍콩에서는 더욱 충격적인 일이 있었다. AI로 만든 가짜 화상회의에 속아 340억 원을 사기꾼 계좌로 송금한 대형 금융사고가 발생한 것이다.
강도는 약하지만 광범위한 데이터 왜곡도 발생하고 있다. 데이팅앱 프로필 상당수가 AI 합성 이미지이고, 채팅 역시 이성을 유혹하도록 특별히 훈련된 AI가 인간보다 더 인간적으로 상대를 현혹하고 있다. 방송이나 유튜브에서도 AI로 만든 가상 동영상을 참고자료로 사용하거나 또는 진짜인 양 하는 사례도 늘고 있어, 맥락을 모르는 시청자들은 제작자의 의도와 다르게 오인할 위험성이 커지고 있다.
더 정교해지는 AI, 더 위험해지는 현실
문제는 이런 일들이 앞으로 더 늘어날 것이라는 점이다. 이미 AI 가짜 화상회의로 금융사기 성공 사례가 나왔으니, AI가 내 딸을 가장해 휴대폰 영상통화로 다급하게 송금을 요청하는 보이스피싱을 조만간 보게 될지도 모른다.
핵심적인 문제는 이들 합성 데이터가 포렌식 등 특별한 기술 없이는 진본과 구별할 수 없다는 점이다. 다급하게 딸이 눈물을 보이며 돈을 보내달라고 할 때, 그것을 가짜라고 즉시 통화를 끊을 사람이 얼마나 되겠는가?
AI가 인류의 보편적인 도구로 급속하게 확산됨에 따라, 진짜 현실에서 만들어진 데이터, 진짜 사람, 진짜 '바로 그 사람'임을 확인할 수 있는 방법이 시급한 상황이다.
구멍 많은 기존 대응책들
물론 대응책들을 고민 안하는 것은 아니다. AI 회사들은 자발적으로 자사 AI 결과물에 워터마크를 삽입하고 있고, 유럽에서는 이를 법적으로 강제하고 있다. Adobe 등이 주도하는 C2PA(Content Authenticity Initiative)도 콘텐츠 출처 인증 표준을 개발하고 있다.
하지만 이런 접근법들은 근본적 한계가 있다. 워터마크는 오픈소스 AI나 자체 개발 AI로 얼마든지 회피할 수 있고, 표준화된 시스템도 모든 생성 도구에 적용되기까지는 상당한 시간이 필요하다. 더 중요한 것은 이들 모두 AI가 가짜를 만든 후 사후적으로 표시하는 방식이라는 점이다.
발상의 전환이 필요하다
다른 방식으로 접근해보는 것은 어떨까? AI가 만든 가짜를 찾아내려는 노력은 그것대로 중요하다. 이와 별개로 데이터 생성 시점부터 ‘진짜 데이터’라는 것을 확실하게 인증해두는 방식은 어떨까?
예를 들어 내가 스마트폰으로 사진을 찍는 바로 그 순간, '이것은 이 기기에서 이 시간에 직접 촬영된 사진'이라는 것을 누구도 부인할 수 없는 방식으로 기록해둘 수 있다면? 당근마켓에 중고 물품 사진을 올릴 때, 이것이 인터넷에서 다운로드한 이미지가 아니라 내가 직접 찍은 것임을 증명할 수 있다면? 화상통화를 할 때 상대방이 정말로 그 사람이 맞는지, AI가 만든 가짜가 아니라는 것을 실시간으로 확인할 수 있다면?
물론 이것으로 AI 시대의 리스크를 완전히 차단할 수는 없겠지만, 적어도 리스크를 감지하고 의식적으로 회피하려는 사람들에게는 실질적인 해결책이 될 수 있다.
Real World Data가 필요하다
결국은 진짜 같은 가짜 데이터가 범람하는 사회에서는, 내가 보고 있는 데이터가 진짜 현실에서 나온 데이터임을 확인해야 할 필요성은 점차 증대될 것이다. 이는 단순한 기술적 문제가 아니라 사회 전체의 신뢰 시스템과 직결되는 문제다.
이런 측면에서 필자는 Real World Data(RWD)라는 개념을 제안한다. RWD란 직접 찍은 사진, 동영상처럼 <현실 세계에서 직접 생성되었거나 또는 현실에서 직접 추출된 데이터라는 것이 기술적으로 보장된 데이터>를 의미한다. RWD를 생산하는 인프라는 방법용 CCTV나 화상회의 장비와 같은 특정 장비에 국한되어서는 안된다. 스마트폰을 소지한 개인 누구나 보이스피싱의 타겟이 될 수 있고, 중고품에 대한 신뢰를 높이기 위해 진짜 사진임을 증명하는 것은 일상에서 벌어지는 일이기 때문이다. 결국 산업가 우리의 일상 생활 전반에 RWD를 생산하고 유통할 수 있는 기술적 인프라가 필요하다.
블록체인의 새로운 ‘쓸모’
이러한 시대적 요구를 만족시키는데 블록체인 만큼 적확한 기술은 없을 것이다. 그동안 블록체인은 '어디에 쓰는 물건인지' 지속적으로 의심받아 왔다. 하지만 AI 시대에 접어들면서 상황이 달라지고 있다. 데이터의 무결성과 신뢰성을 보장하고, 진본을 인증하거나 차후 오류 없이 검증할 수 있는 기술적 방법론으로 블록체인을 따라올 기술이 없기 때문이다. 블록체인은 진짜와 가짜를 구분할 수 없는 혼돈의 시대에, 적어도 '이것만큼은 진짜'라고 RWD를 인증할 수 있는 기술적 토대를 제공할 수 있다. 지금까지 블록체인의 ‘쓸모’는 주로 금융과 관련된 것이었다면, 이제는 AI 시대의 사회적 안전판, 디지털 사회의 신뢰 인프라 역할을 해야할 때가 온 것이다.
물론 블록체인이 만능은 아니기에 모든 문제를 해결하지는 못할 것이다. 그러나 블록체인을 활용해 데이터의 생산 단계에서부터 무결성과 신뢰성을 보장해둘 수 있다면, 사회적 신뢰 수준을 획기적으로 제고할 수 있다는 것은 명약관화하다.
두마리 토끼 잡기
RWD는 경제적으로도 중요한 의미를 갖는다. RWA(Real World Assets)가 경제적 가치를 가지는 것과 마찬가지로 RWD도 경제적 가치를 가지기 때문이다. 이미 AI 회사들은 레딧(Reddit), 스택 오버플로우(Stack Overflow), 셔터스톡(Shutterstock) 같이 실제 사람들이 직접 만든 데이터를 보유한 플랫폼들에 거액을 주고 데이터를 구매하고 있다. AI가 만든 데이터를 AI로 다시 학습시키면 품질이 계속 떨어지고 심각한 왜곡이 발생하기에, '진짜 현실 데이터’ 즉 RWD를 필연적으로 사용할 수 밖에 없다.
따라서 데이터 생산 시점부터 진본성이 증명된 RWD가 산업 영역부터 개인의 일상에까지 확대되고, 이렇게 생산된 대량의 RWD 데이터를 거래하는 RWD 마켓이 활성화된다면 기존에 없던 새로운 경제 영역이 만들어질 수 있다.
여기서 흥미로운 점은 RWD를 생산하는 기술적 인프라가 개인의 일상 영역까지 확산되고 RWD 데이터 마켓이 활성화되는 것은, 동시에 AI 시대의 사회적 안전판, 디지털 사회의 신뢰 인프라가 확대된다는 것을 의미한다는 곳이다.
기존에는 보안의 등급을 높이든, 해킹에 대한 방어선을 강화하든 통상 신뢰를 높이는 작업은 거의 예외 없이 추가적인 비용을 지불해야 하는 다소 부담스런 작업으로 간주되어 왔다. 그러나 RWD 영역의 확대는 경제적 가치를 창출함과 동시에 그 자체로 사회적 신뢰를 높이는 과정이다. 즉 두마리 토끼를 잡는 게임이 될 수 있는 것이다. 또한 이는 곧 블록체인 기술의 유용함을 전 사회적으로 증명하는 것이기도 하고, 블록체인 산업 영역이 확장되는 것이기도 하다.
사회적 안전판의 확산과 경제 영역의 확대가 동반될 수 있다면 그보다 좋은 일이 있겠는가?
미래를 위한 제안
AI가 우리 삶을 더욱 편리하게 만들어주는 것은 분명하다. 하지만 그 편리함이 새로운 위험을 동반한다면, 그 위험을 관리할 수 있는 도구가 필수적이다. 우리는 가짜가 진짜 같은 시대에, 진짜를 증명할 수 있는 기술의 개발과 보급이 시급한 상황에 이르렀다. 이는 단순히 기술적 과제가 아니라, 디지털 시대 사회의 신뢰 기반을 구축하는 일이기도 하다. 바로 이 시대적 과제에 블록체인과 RWD가 해답의 전부는 아니어도 상당한 수준의 해답을 제공해줄 수 있을 것이다.