색스·아모데이, 고성능 AI 허가제 논쟁 재점화

데이비드 색스(David Sacks) 전 백악관 AI·크립토 차르이자 대통령 과학기술자문위원회(PCAST) 공동의장과 다리오 아모데이(Dario Amodei) 앤트로픽(Anthropic) CEO가 프런티어 AI 규제 범위를 두고 다시 충돌했다. 쟁점은 안전 규제가 필요한 최소 장치인지, 대형 AI 기업에 유리한 허가제인지다.

아모데이는 8월 중순 엑스(X)에서 규제가 곧바로 규제 포획과 권력 집중으로 이어진다는 주장은 지나치게 단순하다고 반박했다. 색스는 같은 논쟁에서 아모데이식 접근이 사실상 “AI를 위한 DMV”라며 미국 AI 산업의 속도를 늦출 수 있다고 주장했다.

논쟁의 출발점은 앤트로픽이 6월 공개한 정책문서다. 앤트로픽은 ‘Policy on the AI Exponential’에서 정부가 위험한 프런티어 모델 배포를 차단하거나 억제할 권한을 가져야 한다고 제안했다.

앤트로픽이 제시한 적용 범위는 10의 25제곱 FLOPs를 넘는 모델, AI 관련 매출 5억 달러(약 7070억원)를 넘는 기업, AI 연구개발 지출이 10억 달러(약 1조4140억원)를 넘는 기업이다. 요구 사항으로는 제3자 테스트, 공개 투명성, 독립 평가, 보안 체계가 제시됐다.

FLOPs는 AI 모델 학습에 들어가는 연산량을 나타내는 단위다. 프런티어 AI는 현 기술 수준에서 가장 강력한 모델군을 뜻하며, 성능이 높아질수록 사이버 공격, 생물학적 위험, 자율적 의사결정 같은 안전 문제가 함께 커질 수 있다는 논리가 규제론의 근거다.

아모데이는 규제 자체가 늘 기업 권력만 키우는 것은 아니라고 봤다. 그는 앤트로픽의 제안이 프런티어 AI 기업의 속도를 늦추면서도 작은 경쟁자에게는 공간을 남기려는 구조라고 설명했다.

또 AI가 연산 자원과 배포 인프라 때문에 경제적 힘을 집중시키는 성격을 갖지만, 해법이 무조건 중앙집중형 규제라는 뜻은 아니라고 했다. 안전장치를 좁은 범위에 두되 오픈웨이트 모델의 공간도 남겨야 한다는 취지다.

색스의 반론은 진입장벽에 맞춰져 있다. 그는 FAA·FDA·FINRA식 심사 체계가 AI 모델의 테스트와 승인 대기열을 만들고, 같은 제약을 받지 않는 중국에 미국이 불리해질 수 있다고 주장했다.

색스의 문제 제기는 안전 규제의 필요성 자체보다 누가, 어떤 기준으로, 얼마나 빠르게 승인하느냐에 놓여 있다. 심사 권한이 누적되면 결과적으로 신규 진입자보다 이미 자본과 법무 조직을 갖춘 대형 기업에 유리해질 수 있다는 논리다.

아모데이는 오픈웨이트 모델 전면 금지론과는 거리를 뒀다. 액시오스(Axios)는 7월 27일 아모데이가 오픈웨이트 모델 금지를 지지한 적이 없다고 말했다고 전했다.

오픈웨이트 모델은 모델 가중치를 공개해 외부 개발자가 내려받아 활용할 수 있는 AI 모델을 말한다. 아모데이는 위험하지 않은 모델은 공공재 성격이 있다고 보면서도, 더 강한 모델에는 칩 통제와 증류 단속, 안전 테스트가 필요하다는 입장을 냈다.

논쟁은 앤트로픽 한 회사의 정책 홍보를 넘어선다. 액시오스는 7월 16일 아모데이와 샘 알트먼(Sam Altman) 오픈AI(OpenAI) CEO, 데미스 허사비스(Demis Hassabis) 구글 딥마인드(Google DeepMind) CEO가 프런티어 AI 규제 필요성에는 일정 부분 수렴하고 있다고 정리했다.

다만 정부가 직접 최종 판단권을 가질지, 업계 주도 심사기구를 둘지, 국제 인증 체계를 만들지는 갈린다. 안전 평가가 공통 언어가 되더라도 그 제도 설계가 경쟁을 보호할지, 경쟁을 막을지는 별개 문제라는 평가다.

한국 독자에게는 AI 규제가 크립토·블록체인 인프라와 만나는 지점도 중요하다. AI 기반 사이버 공격과 방어 역량은 거래소, 지갑, 금융 인프라 보안과 맞닿아 있으며, 본지는 앞서 미국 정부와 빅테크가 프런티어 AI 보안 평가 방식을 조율한 내용을 전했다.

이번 설전은 ‘규제 대 혁신’의 단순 구도가 아니다. 아모데이는 강한 모델에 좁고 강한 안전장치를 붙이자는 쪽이고, 색스는 그 장치가 누적되면 허가제로 굳을 수 있다고 본다.