게리 탄 “AI 증류 막지 않겠다”…미국 대응과 대조

와이콤비네이터 최고경영자 게리 탄(Garry Tan)이 인공지능(AI) 모델 증류를 차단하기보다 오픈 웨이트 모델과 최첨단 모델이 공존하는 시장 구조를 만들어야 한다고 주장했다. 그는 AI 모델 증류에 대해 “아무것도 하지 않겠다”고 말했다.

탄 CEO는 10일(현지시간) 와이콤비네이터 데모데이에서 CNBC와 인터뷰하며 오픈AI와 앤트로픽 모델의 출력물을 중국 기업이 자체 모델 개발에 활용하는 문제에 이같이 답했다. CNBC는 탄 CEO가 증류 자체를 막기보다 규제 초점을 시장 구조에 맞춰야 한다고 말했다고 전했다.

모델 증류는 성능이 높은 모델의 출력물을 활용해 더 작고 저렴한 모델을 학습하는 방식이다. 오픈AI는 개발자가 GPT-4o 등 대형 모델의 출력물로 비용 효율적인 모델을 미세조정할 수 있도록 공식 증류 기능을 제공하고 있다.

논란은 경쟁 모델의 능력을 허가받지 않은 방식으로 추출할 때 발생한다. 합법적인 모델 경량화와 경쟁사의 능력을 낮은 비용으로 확보하려는 무단 증류를 구분해야 한다는 의미다.

앤트로픽은 지난 2월 중국의 딥시크(DeepSeek), 문샷(Moonshot), 미니맥스(MiniMax)가 약 2만4000개의 부정 계정을 통해 클로드와 1600만건이 넘는 대화를 생성했다고 주장했다. 앤트로픽은 이를 자사 모델의 기능을 불법적으로 추출하기 위한 산업적 규모의 증류 캠페인으로 규정했다.

앤트로픽은 증류가 합법적인 학습 방식으로 활용될 수 있지만, 경쟁사의 능력을 낮은 비용으로 확보하는 데 악용될 수 있다고 설명했다. 앞서 앤트로픽이 중국 기업의 모델 복제 의혹을 제기한 사례도 같은 논쟁의 연장선에 있다.

오픈AI도 지난 2월 미국 의회 제출 자료에서 딥시크와 연계된 계정이 접근 제한을 우회해 미국 AI 모델의 출력을 확보하고 증류에 활용하려 한 정황을 확인했다고 밝혔다. 다만 오픈AI는 자사 플랫폼에서도 책임 있는 증류 경로를 제공하고 있다고 설명했다.

미국 정부기관은 무단 증류를 국가안보 문제로 보고 있다. 국가안보국(NSA)·연방수사국(FBI)·사이버보안·인프라보안국(CISA)은 8일 중국 기반 AI 기업들이 미국 최첨단 모델의 기능과 능력을 체계적으로 추출하고 있다고 경고했다.

이들 기관은 증류가 연구에 유용한 기술이라는 점은 인정하면서도, 산업적 규모의 무단 증류가 중국 모델의 기술 격차 축소와 군사·사이버 역량 강화에 활용될 수 있다고 밝혔다. 기술 활용과 안보 대응을 분리해 다뤄야 한다는 입장이다.

탄 CEO는 기술 차단보다 시장 구조에 무게를 뒀다. 오픈 웨이트 모델은 이용자에게 접근성과 수정 가능성을 제공하고, 최첨단 모델 개발사는 가격 프리미엄을 유지해야 사업을 이어갈 수 있다는 설명이다.

그는 두 모델 체계가 공존할 수 있도록 균형을 맞추는 일이 규제의 목표가 돼야 한다고 말했다. 이는 미국 AI 기업과 정부기관이 강조하는 접근 통제와 탐지 강화와 다른 방향이다.

AI 안전 문제에서도 탄 CEO는 장기적인 ‘AI 멸종’ 위험보다 현재 발생하는 사이버보안 위협에 집중해야 한다고 주장했다. 장기 위험에 대한 논쟁보다 당장 확인되는 보안 위협에 대응해야 한다는 취지다.

와이콤비네이터가 데모데이에서 발표한 스타트업 196개 가운데 149개가 머신러닝·AI 기업으로 분류됐다는 점도 이번 논쟁과 맞물린다. AI 분야에 대한 창업과 투자가 이어지는 가운데, 모델 접근을 둘러싼 기업 간 이해관계도 커지고 있다.

모델 증류는 강력한 AI 모델을 대량 호출해 응답을 수집한 뒤 이를 활용해 더 저렴한 모델을 훈련할 수 있다는 점에서 비용 절감 수단으로 활용된다. 반대로 원본 모델 개발사 입장에서는 경쟁사가 자사 모델의 능력을 낮은 비용으로 확보하는 수단으로 악용할 수 있다는 우려가 있다.

이번 논쟁의 핵심은 증류 기술 자체를 금지할지보다 합법적인 활용과 무단 능력 추출을 어떻게 구분하고, 접근 통제와 탐지를 어디까지 강화할지에 있다. 미국 AI 기업과 정부기관은 무단 증류의 차단과 탐지를 강조하고 있으며, 탄 CEO는 오픈 웨이트 모델과 최첨단 모델의 공존을 규제 목표로 제시했다.