딥페이크 잡는 AI ‘리젬블’, 187억 투자 유치… 구글도 손잡았다

딥페이크 기술이 진화하면서 기업 보안의 최전선에 새로운 위협이 등장했다. 이런 상황에서 생성형 인공지능(AI) 보안 스타트업 리젬블 AI(Resemble AI)가 1,300만 달러(약 187억 원)의 신규 투자를 유치하며 주목받고 있다. 캐나다 토론토와 미국 샌프란시스코에 본사를 둔 이 기업은, 업계에서 가장 정밀하다는 딥페이크 탐지 모델 ‘Detect-3B Omni’를 출시했다. 이 모델은 해킹, 사기 등 실질적 손실로 이어질 수 있는 음성 및 영상 위조 행위를 실시간으로 감지한다.

리젬블 AI가 개발한 Detect-3B Omni는 30억 개의 파라미터를 기반으로 작동하며, 음성·이미지 딥페이크 탐지 분야에서 선도적 성능을 인증받았다. 38개 언어를 아우르는 이 모델의 탐지 정확도는 98%에 달하는 것으로 평가된다. 특히 딥러닝 기반 생성 모델이 남긴 수학적 패턴을 추적해 위조 여부를 판단하는 새로운 접근법을 적용함으로써, 기존 탐지 시스템이 흔히 놓치는 고도 위장 사례까지 걸러낸다.

리젬블 AI는 원래 음성 합성 기술을 제공하던 기업이었으나, 자체 생성 모델과 방대한 합성 훈련 데이터를 보유하게 되면서 보안 분야로 방향을 전환했다. 이는 지금의 딥페이크 대응 수요에 부합하는 전략적 선택이었다. 설립자인 조하이브 아메드(Zohaib Ahmed) CEO는 “딥페이크를 막기 위해선 수많은 합성 데이터를 기반으로 역추적 알고리즘을 훈련시켜야 한다”며, “기존 데이터가 아닌, 모델 구조 자체에서 흔적을 추출하는 방식으로 진화해야 한다”고 강조했다.

특히 리젬블 AI가 강조하는 차별화 포인트는 언어적 특성과 압축 변형 같은 현실적 요소까지 반영한다는 점이다. 대부분의 탐지 모델이 학습한 범위를 벗어나는 압축 필터나 리플레이 공격에는 무력한 반면, Detect-3B는 원신호(raw signal)에 숨어 있는 생성 모델의 미세한 흔적을 직접 찾아내도록 설계됐다. 사용자의 얼굴이나 목소리를 사전에 등록할 필요 없이, 실제 화상회의나 음성 통화 중에도 실시간으로 작동 가능한 구조다.

이 모델이 특히 주목받는 이유는 기업 금융 사기 분야에서 곧바로 적용 가능하다는 점이다. 최근 들어 해커들이 기업 임원이나 CEO의 목소리를 모방해 자금 이체 등을 유도하는 사례가 급증하고 있기 때문이다. 이런 상황에서 Detect-3B 같은 도구는 중요한 보안 자산으로 간주된다.

리젬블 AI는 구글(GOOGL), 소니, 옥타 등으로부터 투자를 유치했으며, 이들 기업은 해당 기술을 각자의 보안 시스템에 직접 통합 중이다. 특히 구글의 AI 퓨처스 펀드는 자사의 인프라와 연계해 리젬블의 기술 개발을 더욱 가속화하고 있다. 리젬블은 또한 ‘Resemble Intelligence’라는 보조 플랫폼을 운영해, 탐지 결과를 해석하고 다양한 모델 간 출력을 통합하는 레이어를 연결하고 있다.

이번 투자를 통해 확보한 자금은 엔지니어링 인력 확충과 글로벌 파트너십 확대에 활용될 예정이다. 리젬블은 자체 데이터 파이프라인을 구축해 최신 AI 생성 모델을 반영한 합성 데이터를 실시간으로 준비하고 있으며, 모듈형 튜닝 방식을 통해 새로운 위협에도 신속히 대응 가능한 구조를 갖췄다. 기존 방식으로는 수 주가 소요되는 재훈련 작업을 단 한 시간 내로 줄인 것도 이 회사의 경쟁력이다.

조하이브 아메드는 “딥페이크 탐지는 갈수록 어려워지고 있지만, 포기하는 것은 답이 아니다”라며, “AI 위협에는 AI 대응으로 맞서는 것이 유일한 해법”이라고 말했다. 생성형 AI의 위협이 현실화되는 오늘날, 리젬블 AI 같은 기술 기업의 역할은 더욱 중요해지고 있다.