젠슨 황 “AI 실제 피해만 규제”…오픈AI는 독립평가 요구

젠슨 황 엔비디아($NVDA) 창업자 겸 CEO가 인공지능(AI) 규제는 가상 위험보다 실제 피해를 기준으로 설계해야 한다고 주장했다. 오픈AI와 앤트로픽은 독립 안전 평가와 의무적인 안전 기준을 요구하며 다른 접근을 제시했다.

젠슨 황(Jensen Huang) 엔비디아($NVDA) 창업자 겸 CEO는 9월 2일 미국 노스캐롤라이나주 채플힐에서 열린 주요 20개국(G20) 혁신 장관회의에서 “가설적·이론적 피해를 규제하지 말고, 실제적이고 현실적인 피해를 규제해야 한다”고 말했다. 발언 영상과 전사에서도 같은 취지의 발언이 확인됐다.

황은 각국이 AI 활용에서 뒤처지는 것이 가장 큰 위험이라고 강조했다. AI 개발 속도를 늦출 수 있는 포괄적 사전 규제보다 피해가 확인된 영역에 대응하는 방식이 혁신과 안전을 함께 달성할 수 있다는 주장이다.

이 같은 접근은 위험이 확인되기 전 광범위한 규제를 적용하기보다 실제 문제가 발생한 영역에 대응하는 '라이트터치 규제'로 설명할 수 있다. 규제의 범위를 사전에 넓힐지, 피해가 발생한 뒤 좁혀 대응할지가 핵심 쟁점이다.

백악관은 G20 혁신 장관회의 공동성명에서 '친혁신 정책 체계'와 신뢰할 수 있는 기술 도입을 주요 원칙으로 제시했다. 공동성명에는 신흥 기술의 생산성 향상과 기회 확대 가능성, AI 표준과 공급망 투자에 관한 원칙이 담겼다.

엔비디아는 AI 모델 개발사와 데이터센터 사업자에 그래픽처리장치와 가속 컴퓨팅 인프라를 공급한다. AI 모델 출시나 데이터센터 구축에 규제가 적용되면 고객사의 투자 일정과 맞물릴 수 있지만, 발언만으로 실제 영향 규모와 시점을 단정할 수는 없다.

AI 규제 논의에서 사전 규제는 아직 발생하지 않은 위험까지 관리 대상으로 삼는 방식이다. 반면 실제 피해 중심 규제는 확인된 피해와 위법 행위에 대응하는 데 초점을 둔다.

오픈AI는 9월 9일 역량에 따라 적용되는 국가 차원의 의무 AI 안전 규제를 의회와 추진하겠다고 밝혔다. 오픈AI 정책 제안은 독립 안전 평가와 고위험 분야별 보호조치를 포함한 국가 차원의 의무 기준을 요구했다.

오픈AI의 제안은 AI 모델의 능력이 커질수록 안전 기준도 차등 적용해야 한다는 내용이다. 이는 위험이 현실화한 뒤 대응하는 것만으로는 부족할 수 있다는 입장에 가깝다.

다리오 아모데이(Dario Amodei) 앤트로픽 공동창업자 겸 CEO도 최첨단 AI 모델에 외부 평가자가 지속적으로 접근할 수 있어야 한다고 주장했다. AP통신은 아모데이가 AI 개발 속도를 늦춰 안전 조치가 따라갈 시간을 확보해야 한다고 말했다고 전했다.

독립 평가자는 기업 내부 검토와 별도로 모델의 안전성을 점검하는 외부 검증 주체다. 오픈AI와 앤트로픽은 이런 외부 검증과 정부 권한을 포함한 안전장치를 강조했다.

황의 발언은 AI 산업의 혁신 속도와 시장 자율성을 중시한다. 반면 오픈AI와 앤트로픽은 고위험 모델에 사전 안전 기준과 독립 평가를 적용해야 한다는 쪽에 무게를 둔다.

엔비디아는 앞서 AI 데이터센터와 AI 팩토리를 제조업 인프라로 제시해 왔다. AI 규제 논의가 모델 개발을 넘어 컴퓨팅 인프라와 공급망 투자에도 연결될 수 있는 배경이다.

엔비디아가 참여한 오픈 시큐어 AI 얼라이언스의 사고 공유 지침 제안도 AI 안전을 개별 기업의 대응에만 맡기기 어렵다는 문제의식을 담았다. 다만 사고 공유 체계와 모델 출시 전 독립 평가 의무는 적용 범위가 다른 별도 논점이다.

현재 쟁점은 AI 규제의 기준을 '발생한 피해'에 둘지, '발생 가능한 위험'까지 포함할지다.