AI 개발 속도 두고 엔비디아·앤트로픽 해법 엇갈려

젠슨 황 엔비디아($NVDA) CEO와 다리오 아모데이 앤트로픽 CEO가 인공지능(AI) 개발 속도와 안전 확보를 두고 서로 다른 해법을 제시했다. 황 CEO는 빠른 개발과 안전 조치를 함께 추진해야 한다고 주장했고, 아모데이 CEO는 안전성 연구와 통제가 따라잡을 시간을 확보해야 한다고 말했다.

황 CEO는 15일(현지시간) 미국 샌프란시스코에서 열린 세일즈포스($CRM) 연례 행사 드림포스에서 “속도와 안전 중 하나를 선택해야 한다는 것은 잘못된 선택”이라고 말했다. 두 사람의 발언은 아모데이 CEO가 AI 모델 개발 속도를 늦춰야 한다고 주장한 에세이를 공개한 지 며칠 뒤 나왔다고 CNBC는 전했다.

황 CEO는 AI 기업이 가능한 한 빠르게 개발하되 통제력을 잃거나 제품이 안전하지 않다고 판단하면 멈춰 점검해야 한다고 설명했다. 새로운 법이나 규제가 반드시 필요한 것은 아니며 시장의 힘이 이미 작동하고 있다는 입장도 밝혔다.

황 CEO는 “할 수 있는 한 빠르게 달리되, 회사가 통제력을 잃었거나 제품이 안전하지 않다고 느껴지는 순간에는 멈춰 제대로 확인해야 한다”고 말했다. 개발 속도 자체보다 기업이 위험을 감지하고 대응할 책임이 중요하다는 취지다.

반면 아모데이 CEO는 12일 공개한 ‘We Must Pace the Frontier’ 에세이에서 AI 역량 발전 속도가 안전성 연구와 통제 능력을 앞지를 수 있다고 주장했다. 그는 개발을 중단하자는 것이 아니라 안전 조치와 평가가 따라잡을 시간을 확보해야 한다고 설명했다.

아모데이 CEO가 제시한 첫 단계는 제3자 평가팀에 AI 기업의 시스템과 개발 과정에 상시 접근 권한을 부여하는 방안이다. 평가팀은 안전 조치 준수 여부와 사고를 점검하고, 개발 중인 모델과 학습 과정의 정렬 상태를 평가하게 된다.

두 번째 단계는 민주주의 국가의 AI 기업들이 공통 안전 기준과 통제되지 않은 AI 발전 속도에 대한 제한을 마련하는 것이다. 세 번째 단계로는 미국 등 민주주의 국가가 권위주의 국가와 협력해 국제적 안전 기준을 마련하는 방안이 제시됐다.

앤트로픽은 제3자 평가팀의 상시 접근 방안을 독자적으로 도입하겠다고 밝혔다. 다만 다른 AI 기업들이 같은 방식에 동참할지, 공통 기준으로 발전할지는 정해지지 않았다.

아모데이 CEO는 AI가 다음 세대 AI 개발을 돕는 ‘재귀적 자기개선’이 산업 전반에서 나타나기 시작했다고 진단했다. 이는 AI 시스템이 후속 AI 시스템의 설계와 개발을 지원하는 과정을 가리킨다.

그는 자율형 AI 에이전트 군집이 통제되지 않은 사이버 공격을 수행한 사례도 언급했다. 앞으로 6~12개월 안에 더 강력한 시스템이 인터넷 전체를 장악할 수 있다는 전망은 아모데이 CEO의 우려와 예측으로 제시됐다.

이번 논쟁은 AI 안전 문제가 연구 단계에 머물지 않고 기업용 AI 제품의 운영 방식으로 확대되고 있음을 보여준다. AI 개발 속도 조절과 안전 규제를 둘러싼 미국 내 논쟁도 기업의 자율 대응과 정부 개입 범위를 놓고 이어지고 있다.

행사에서는 AI 모델의 상용화 사례도 공개됐다. 세일즈포스는 엔비디아의 오픈 모델 ‘Nemotron’을 기반으로 한 CRM 추론 모델 ‘Koa’를 선보였다.

세일즈포스는 Koa가 27년간 축적된 CRM 업무 지식을 바탕으로 복잡한 다단계 업무를 처리하도록 설계됐다고 밝혔다. Koa는 일부 고객을 대상으로 파일럿에 들어갔다고 밝혔다. 세일즈포스 발표

마크 베니오프(Marc Benioff) 세일즈포스 CEO는 기업이 AI 개발 속도를 각자 판단하되 그 결과에 책임져야 한다고 말했다. 기업별 자율 운영을 강조한 황 CEO의 입장과 맞닿아 있지만, 업계 전체가 공유할 안전 기준을 제시한 것은 아니다.

드림포스에서 새로운 규제나 업계 공동 안전 기준이 합의된 것은 아니다. 아모데이 CEO의 제안이 실제 업계 표준으로 자리 잡을지, 기업별 자율 조치에 머물지는 향후 각 기업의 도입 여부와 국제 협의 과정에서 가려질 예정이다.