엔비디아 황 CEO “AI 안전은 법률보다 엔지니어링”

젠슨 황 엔비디아($NVDA) CEO가 인공지능(AI) 안전을 정부 규제보다 기업의 엔지니어링 과정에서 관리해야 한다고 주장했다. AI가 소셜미디어와는 다른 기술인 만큼, 출시 전 제품의 안전성을 기업이 점검해야 한다는 취지다.

황 CEO는 17일 영국 스코틀랜드 덤프리스 하우스에서 열린 AI 행사에서 AI가 소셜미디어와 “매우 다르다”고 말했다. 현재 AI 안전 문제는 출시 준비가 되지 않은 제품에서 발생하는 만큼 기술 개발 과정에서 해결해야 한다고 설명했다. 관련 발언은 크립토브리핑이 전했다.

황 CEO는 15일 세일즈포스 드림포스에서도 같은 입장을 밝혔다. 그는 “안전은 법률 문제가 아니라 엔지니어링 문제”라고 말하며 새 법률이나 규제보다 기업의 판단이 중요하다고 말했다. 이 발언은 테크크런치가 보도했다.

그는 안전성을 확신할 수 없는 제품은 출시하지 않고, 기업이 개발 속도를 조절해야 한다고 설명했다. AI를 인간이 만든 하드웨어와 소프트웨어로 보고 제품의 기능과 안전성을 개발 단계에서 점검할 수 있다는 논리다.

황 CEO는 혁신 속도와 안전한 제품 출시가 양자택일은 아니라고도 말했다. 기업이 제품을 출시하기 전 위험을 평가하고 필요할 경우 일정을 늦추면 두 목표를 함께 달성할 수 있다는 의미다.

이런 접근은 앤트로픽이 프런티어 AI 안전을 다루는 방식과 차이가 있다. 앤트로픽은 투명성 자료에서 프런티어 모델 포럼 참여, 안전 연구, 위험 평가 기준 개발을 주요 활동으로 제시했다.

앤트로픽은 기업 간 협력과 안전 기준 마련의 필요성을 공개적으로 제시해 왔다. 안전성을 개별 기업의 제품 개발 체계에 맡기는 방식과 업계 공동 기준을 마련하는 방식이 맞서는 모습이다.

AI 안전 논쟁은 규제의 필요성뿐 아니라 책임의 위치를 둘러싼 문제이기도 하다. 기업 자율관리를 중시하면 제품 개발 속도를 조절할 권한이 기업에 남지만, 외부 평가와 법적 의무를 강화하면 정부와 독립기관의 감독 범위가 넓어진다.

유럽연합(EU)은 위험 기반 접근법을 택했다. 고위험 AI 시스템에 위험 평가, 데이터 품질 관리, 기록 작성, 문서화, 인간 감독 등의 의무를 부과하는 방식이다.

EU 집행위원회는 AI법이 2024년 8월 1일 발효됐고, 일부 규정은 2026년 8월 2일부터 적용됐다고 밝혔다. AI 시스템의 위험 수준과 기능에 따라 기업이 부담하는 준수 절차가 달라지는 구조다.

본지는 앞서 EU AI법의 투명성 의무가 생성형 AI의 표시와 감지 과제로 이어지고 있다고 보도했다.

기업 입장에서는 자체 안전관리 체계가 제품 출시 속도와 기술 개발의 유연성을 유지하는 수단이 될 수 있다. 반면 기업이 AI 인프라와 서비스를 공급하는 이해관계자라는 점에서 자율규제 주장을 그대로 받아들여서는 안 된다는 지적도 가능하다.

앤트로픽의 접근은 기업 간 협력과 안전 기준 마련을 통해 개별 기업의 판단을 보완하려는 방식이다. 두 접근 모두 AI 안전을 개발 단계에서 다뤄야 한다는 점에서는 겹치지만, 감독 주체와 책임 범위에서는 차이를 보인다.

황 CEO의 발언이 엔비디아 주가나 AI 기업의 비용 구조에 미친 직접적인 영향은 확인되지 않았다. 미국식 기업 자율관리와 EU의 법적 의무가 AI 기업의 안전관리 체계와 제품 출시 절차에 어떤 차이를 만들지는 각 규정의 적용 과정에서 드러날 전망이다.