찰스 3세, 엔비디아·오픈AI와 AI 안전 논의

찰스 3세(Charles III) 영국 국왕이 17일 스코틀랜드에서 엔비디아($NVDA)·오픈AI·앤트로픽 등 주요 인공지능(AI) 기업 관계자들과 AI 안전을 논의한다. 회의에서는 AI를 사회와 자연에 이롭게 활용하기 위한 공동 원칙과 국제 공조 방안이 다뤄질 예정이다.

회의 장소는 스코틀랜드 남서부 에어셔의 덤프리스하우스다. 찰스 3세가 이번 주 스코틀랜드에서 AI 정상회의를 연다는 내용은 본지가 앞서 보도했다.

CNBC는 버킹엄궁을 인용해 찰스 3세가 엔비디아, 오픈AI, 앤트로픽을 비롯한 기업의 고위 관계자들에게 AI 안전을 기술 개발의 중심에 두는 방안을 묻는다고 전했다.

찰스 3세는 연설에서 “AI의 발전과 속도는 흥미롭지만 동시에 깊은 우려를 낳는다”고 말할 예정이다. 이어 “우리가 운명을 통제하지 못하게 되지 않을 것이라는 확신을 바라고 있다”고 밝힐 계획이다.

그는 “지금 내려지는 결정이 미래 세대가 물려받을 세계를 결정할 것”이라며 AI가 인류와 공동체, 자연을 위해 사용돼야 한다고 강조할 예정이다.

회의에는 구글 딥마인드(Google DeepMind) 관계자와 카니시카 나라얀(Kanishka Narayan) 영국 AI 장관도 참석한다. 버킹엄궁은 회의에서 AI의 능력을 안전하게 활용하고 이를 위한 국제적 협력과 공감대를 만드는 방안이 논의된다고 밝혔다.

이번 회의의 핵심 쟁점은 AI 개발 속도와 안전 규칙 사이의 균형이다. AI 모델의 능력이 빠르게 높아지는 가운데 기술의 위험을 줄이기 위한 공동 기준이 필요하다는 요구가 이어지고 있다.

샘 알트먼(Sam Altman) 오픈AI CEO와 다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 최근 AI 개발 속도를 늦춰야 한다는 취지의 입장을 냈다. 구글 딥마인드 창립자 데미스 허사비스(Demis Hassabis)와 일론 머스크(Elon Musk)도 개발 속도 조절과 규제 감독 필요성을 주장한 인물로 거론됐다.

반면 도널드 트럼프(Donald Trump) 미국 대통령과 마크 저커버그(Mark Zuckerberg) 메타 CEO, 젠슨 황(Jensen Huang) 엔비디아 CEO는 추가 규제 요구에 반대하는 입장을 보여왔다. AI 산업 내부에서 안전 기준과 규제 강도를 둘러싼 시각차가 이어지는 배경이다.

AI 안전 논의는 인공지능 시스템의 오작동과 통제 불능 위험을 줄이고 사회적 피해를 막기 위한 기술·정책 논의를 뜻한다. 이번 회의에서는 개별 기업의 대응을 넘어 여러 국가와 기업이 함께 적용할 수 있는 원칙을 마련할 수 있을지가 다뤄질 예정이다.

찰스 3세는 2023년 영국 AI 안전 정상회의에도 영상으로 참석했다. 이번 회의는 17일 스코틀랜드 덤프리스하우스에서 열린다.