색스, 황 사임 뒤 ‘모든 AI 모델·칩 정부 통제’ 주장

데이비드 색스(David Sacks)가 젠슨 황(Jensen Huang)의 엔비디아(Nvidia, $NVDA) 사임 뒤 “모든 모델과 칩이 정부의 통제를 받기를 원하는 것 같다”고 말했다.

색스는 14일 공개된 올인 팟캐스트(All-In)에서 AI 안전 규제를 지지하는 단체들이 앤트로픽(Anthropic)과 밀접하다고 주장했다. 황의 퇴장으로 오픈소스 AI를 지지하는 진영의 힘이 약해질 수 있다는 견해도 밝혔다.

색스는 이 두 사안을 정부의 AI 통제 움직임으로 연결했다. 팟캐스트에서는 AI 정책을 둘러싼 움직임이 황의 사임을 초래했다는 증거가 제시되지 않았다.

엔비디아는 12일 황이 사장·최고경영자(CEO)·이사직에서 즉시 물러났다고 발표했다. 콜레트 크레스(Colette Kress) 최고재무책임자(CFO)가 임시 CEO를 맡았다.

엔비디아의 SEC 공시에는 이사회가 11일 황의 사임을 수리했다고 적혀 있다. 회사 발표문과 공시 모두 사임 이유를 밝히지 않았다.

클레망 들랑그(Clément Delangue) 허깅페이스(Hugging Face) CEO는 황의 사임 뒤 오픈소스 AI 지원을 계속하겠다는 입장을 밝혔다. 들랑그는 게시물에서 황의 이름을 직접 언급하지 않았다.

앞서 색스와 올인 팟캐스트 패널들은 AI가 인류를 멸망시킬 확률이 10%를 넘는다는 주장에 반박한 바 있다. AI 위험 전망을 둘러싼 당시 논쟁을 다룬 본지 보도에서도 규제와 기술 통제의 부작용이 함께 거론됐다.

◇ 앤트로픽 정책은 고위험 모델에 집중

앤트로픽은 6월 공개한 ‘첨단 AI 프레임워크(Advanced AI Framework)’에서 심각한 위험을 초래할 수 있는 고성능 모델의 안전성 평가와 외부 검증, 위험 공개를 제안했다. 위험이 큰 모델의 배포를 제한할 수 있는 정부 권한도 제시했다.

다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 7월 오픈 웨이트 모델 정책문에서 “오픈 웨이트 모델을 일괄 금지하자고 주장한 적이 없다”고 밝혔다. 충분히 강력한 모델에는 공개형과 폐쇄형을 가리지 않고 안전성 검사를 적용하되, 능력이 낮은 모델은 제외해야 한다고 설명했다.

오픈 웨이트는 AI 모델의 학습 결과를 담은 가중치 파일을 공개하는 방식이다. 외부 사용자는 파일을 내려받아 모델을 실행하거나 조정할 수 있다.

아모데이는 첨단 칩의 수출 통제도 지지했다. 앤트로픽 정책문에 담긴 제안은 고위험 모델의 안전성 관리와 첨단 칩 수출 통제에 관한 것이다.

앤트로픽은 7월 Public First Action에 후원금을 지원했다고 공식 발표했다. 회사는 지원 목적이 공공 교육과 정책 활동이며, 선거 후보의 당선에 영향을 주는 데 사용할 수 없다고 설명했다.

이 발표로 확인되는 것은 Public First Action에 대한 지원이다. 안전 규제 지지 단체 전반을 수년간 지원했다는 색스의 주장까지 입증하는 자료는 아니다.

엔비디아 이사회는 내부와 외부에서 정식 후임자를 찾기로 했다.