AI가 흔든 온라인 신뢰… 해법으로 떠오른 ZK 검증

합성 콘텐츠와 자율형 AI의 확산으로 온라인 ‘신뢰’가 붕괴되는 가운데, 이를 해결할 핵심 해법으로 ‘제로지식증명(ZK)’ 기반 검증 체계가 부상하고 있다.

최근 이란 분쟁을 계기로 AI가 생성한 가짜 영상이 수억 명에게 확산되면서, 이미지와 영상에 대한 신뢰는 근본적으로 흔들렸다. 과거에는 ‘보는 것이 믿는 것’이었지만, 이제는 오히려 의심을 전제로 소비되는 환경으로 바뀌었다. 문제는 단순한 딥페이크를 넘어, AI가 실제 경제와 사회 시스템에서 ‘행동’하기 시작했다는 데 있다.

탐지 기술의 한계, 이미 늦었다

기존 대응 방식은 AI를 탐지하는 또 다른 AI를 만드는 것이었다. 그러나 이 접근은 구조적으로 한계를 가진다. 간단한 이미지 왜곡만으로도 탐지 정확도가 4% 수준까지 떨어지는 사례가 보고되면서, 탐지 경쟁은 본질적 해법이 아니라는 지적이 나온다.

더 큰 문제는 AI가 더 이상 콘텐츠 생성에 그치지 않고, 자율 에이전트 형태로 활동한다는 점이다. 이들은 웹 탐색, 구매, 협상, 콘텐츠 게시까지 수행하며 인간과 직접 상호작용한다. 일부는 아동과도 대화하지만, 사용자는 상대가 기계인지조차 인지하지 못할 수 있다.

이 과정에서 작은 오류는 대규모 피해로 증폭된다. 예를 들어, 학습 데이터가 미세하게 오염된 AI가 의료 청구에서 반복적인 오류를 내면 병원 네트워크 전체에 걸쳐 수백만 달러 규모의 손실이 발생할 수 있다. 상거래 AI 역시 수익 최적화를 추구하다가 가격 시스템의 허점을 악용해 의도치 않은 수십억 달러 손실을 야기할 수 있다.

문제는 사후 검증이 거의 불가능하다는 점이다. AI의 의사결정은 수십억 개의 파라미터를 기반으로 확률적으로 계산되며, 동일한 질문에도 다른 답을 내놓는다. 어떤 데이터로 학습됐고, 어떤 과정을 거쳐 결론에 도달했는지 추적하기 어렵다.

‘증명’ 없이는 신뢰도 없다

이 같은 한계를 해결할 대안으로 ‘제로지식증명(ZK)’이 주목받는다. 제로지식증명은 민감한 정보를 공개하지 않고도 특정 사실이 참임을 수학적으로 입증하는 암호 기술이다.

이 기술은 단순한 라벨링이나 워터마크와는 차원이 다르다. AI가 특정 데이터를 기반으로 특정 결과를 도출했다는 사실 자체를 위변조 불가능한 형태로 증명할 수 있다. 즉, “믿어달라”가 아니라 “증명하겠다”는 방식이다.

미디어 영역에서는 사진이 실제 장비로 촬영됐는지, 특정 시점에 생성됐는지, 편집되지 않았는지를 증명할 수 있다. AI 영역에서는 더 강력하다. 특정 모델과 파라미터로 생성된 결과인지, 학습 데이터가 오염되지 않았는지, 규제 요건을 충족하는지까지 검증 가능하다.

또한 인간과 AI를 구분하는 ‘신원 증명’에도 활용된다. 사용자는 개인정보를 공개하지 않고 인간임을 증명할 수 있고, AI는 스스로가 에이전트임을 투명하게 밝힐 수 있다.

웹의 진화, ‘읽기’에서 ‘증명’으로

인터넷 역시 과거에는 신뢰 문제를 겪었다. 이를 해결한 것이 HTTPS다. 웹사이트는 암호화 인증서를 통해 자신의 정체를 증명해야 했고, 이 구조가 전자상거래의 기반이 됐다.

이후 웹2는 사용자 생성 콘텐츠를 기반으로 성장했지만, 이는 인간 중심 구조였다. 이제 AI 에이전트가 경제 활동의 주체로 등장하면서 “누가 책임지는가”라는 새로운 문제가 떠오르고 있다.

웹3는 소유권과 탈중앙화를 내세웠지만, 기대만큼 확산되지는 못했다. 시장에서는 토큰 투기 이미지가 강해지며 본래 비전이 흐려졌다. 전문가들은 이제 ‘소유’가 아니라 ‘검증’이 핵심이라고 본다.

결국 미래 인터넷의 핵심은 ‘증명 가능한 신뢰’다. 누가 시스템을 만들었는지, 어떤 데이터로 학습됐는지, 어떤 권한을 갖고 행동하는지를 모두 검증할 수 있어야 한다.

AI 시대, 규제 역시 ‘증명 중심’으로

정책 논의도 이 방향으로 이동하고 있다. 미국 국립표준기술연구소(NIST)는 이미 ‘프라이버시 강화 암호기술’의 일환으로 제로지식증명 표준화를 검토 중이다.

전문가들은 특히 금융 거래나 아동과의 상호작용 같은 고위험 영역에서는 AI 에이전트가 반드시 암호학적 증명을 갖추도록 해야 한다고 지적한다. 모든 중요한 행위—결제, 계약, 데이터 교환—는 누가 승인했고 어떤 조건에서 이뤄졌는지를 증명해야 한다는 것이다.

이는 단순한 기술 문제가 아닌 국가 안보 문제로도 확장된다. 딥페이크가 ‘전초전’이었다면, 자율형 AI는 실제 경제와 사회를 교란할 수 있는 ‘본 게임’이라는 분석이다.

결국 인터넷은 ‘읽기(Read)’, ‘쓰기(Write)’를 넘어 ‘증명(Prove)’ 단계로 진화하고 있다. 제로지식증명은 신뢰가 무너진 디지털 환경에서 다시 기준을 세울 핵심 인프라로 자리 잡을 가능성이 크다.