AI 멸종 가능성 0%…황 CEO, 개발 속도 유지 주장

젠슨 황(Jensen Huang) 엔비디아($NVDA) CEO가 인공지능(AI)이 2030년까지 인류를 멸종시킬 가능성을 '0%'로 평가했다. 그는 AI 개발 속도를 늦출 필요가 없다고 말했다.

황 CEO는 CBS 뉴스 인터뷰에서 “AI가 2030년까지 세계를 파괴할 가능성은 0%”라고 말했다. 이어 “다른 사람이 무엇을 하든 가능한 한 빠르게 나아가야 한다”고 답하면서도 안전하지 않은 제품을 출시해서는 안 된다고 덧붙였다. CBS 뉴스는 9월 18일 이 발언을 보도했다.

황 CEO의 발언은 AI 개발 속도와 안전성 확보를 둘러싼 논쟁이 이어지는 가운데 나왔다. 그의 발언에서 '0%'는 공식 통계가 아니라 AI의 장기 위험에 대한 개인적 판단으로 제시됐다.

황 CEO는 9월 10일 골드만삭스 콘퍼런스에서도 AI가 인류의 종말을 초래할 수 있다는 우려를 '완전한 난센스'라고 표현한 것으로 전해졌다. 그는 정부의 광범위한 규제보다 기업 내부의 엄격한 테스트와 독립 평가를 중시하는 입장을 보였다.

엔비디아는 AI 모델을 직접 개발하는 기업은 아니지만 주요 AI 시스템의 학습과 추론에 사용되는 GPU를 공급한다. 이에 따라 황 CEO의 발언은 AI 안전성에 대한 개인적 견해이면서 AI 인프라 확대를 주도하는 기업 경영자의 관점으로도 읽힌다.

AI의 장기 위험을 경고하는 목소리는 이전부터 나왔다. 2023년 비영리단체 AI 안전센터가 공개한 성명에는 350명 이상의 연구자와 기술기업 경영진이 참여했고, AI로 인한 멸종 위험 완화를 팬데믹과 핵전쟁에 견줄 세계적 우선 과제로 다뤄야 한다고 밝혔다.

성명에는 다리오 아모데이(Dario Amodei) 앤트로픽 CEO와 샘 올트먼(Sam Altman) 오픈AI CEO도 이름을 올렸다. AP통신은 해당 성명에 두 사람이 참여했다고 보도했다.

논쟁은 최근 앤트로픽 연구원 제이컵 콕슨(Jacob Coxon)의 사임으로 다시 커졌다. 콕슨은 앤트로픽과 오픈AI가 안전보다 경쟁을 우선하고 있다고 주장하며, AI가 10년 안에 인류를 멸종시킬 가능성을 10%로 추정했다.

콕슨이 제시한 10% 역시 그의 개인적 견해다. 황 CEO의 0% 평가와 콕슨의 10% 추정은 발언 주체와 판단 기준이 달라 같은 통계 수치처럼 비교하기 어렵다.

AP통신은 콕슨의 주장을 전하면서 앤트로픽과 오픈AI가 논평 요청에 즉시 답하지 않았다고 전했다. 이에 따라 콕슨의 주장은 양사의 공식 입장과 구분해 다뤄야 한다.

앤트로픽은 고성능 AI의 위험을 평가하기 위해 정기 평가와 위협 모델링, 레드팀 테스트, 외부 평가를 진행한다고 밝혔다. 레드팀 테스트는 외부 또는 내부 평가자가 시스템의 취약점과 오용 가능성을 의도적으로 점검하는 절차다.

앤트로픽은 2023년 책임 있는 확장 정책을 발표했고 2026년 2월 이를 업데이트했다. 회사는 위험 수준에 따라 보안과 배포 조치를 강화하는 체계를 운영한다고 설명했다.

앞서 AI 안전성 확보를 위해 개발 경쟁의 속도를 늦춰야 한다는 연구자들의 경고도 나왔다. 해당 논쟁은 AI 역량 발전 속도와 안전성 연구가 같은 속도로 진행되고 있는지를 둘러싼 문제로 이어졌다.

현재 AI가 인류의 존속에 미칠 위험을 둘러싼 합의된 확률은 없다. 황 CEO의 0% 발언과 콕슨의 10% 추정은 위험을 바라보는 서로 다른 견해이며, 기업 내부 검증과 독립 평가의 실효성이 논쟁의 핵심으로 남아 있다.