알트먼·아모데이, 23일 유엔 안보리서 AI 논의

샘 알트먼 오픈AI 최고경영자와 다리오 아모데이 앤트로픽 최고경영자가 23일 유엔 안전보장이사회 회의에서 인공지능(AI) 안전성과 국제 안보를 논의할 예정이다.

유엔 대변인은 알트먼과 아모데이의 참석 예정 사실을 확인했다. 알트먼의 유엔 안보리 참석 예정 사실에 이어 앤트로픽 측 참석자와 미국 행정부의 입장이 함께 알려졌다.

이번 회의에는 클레망 들랑게(Clément Delangue) 허깅페이스(Hugging Face) 최고경영자와 요슈아 벤지오(Yoshua Bengio) 몬트리올대 교수도 참여할 예정이다. 벤지오는 유엔 인공지능 국제과학패널 공동 의장을 맡고 있다.

회의 주제는 AI와 국제 평화·안보로 정해졌다. 유엔은 2023년 7월 안보리에서 AI와 국제 평화·안보를 처음 공식 논의했다.

이번 논의는 AI 안전성과 규제를 둘러싼 경고가 이어지는 가운데 열린다. 연구자와 업계에서는 고도 AI 모델이 통제 범위를 벗어나거나 국제 안보에 악용될 가능성을 우려해 왔다.

반면 도널드 트럼프(Donald Trump) 미국 대통령은 AI 개발을 제한하는 데 부정적인 입장을 보였다. 트럼프 대통령은 유엔 총회 연설에서 “산업혁명보다 더 큰 기술의 성장을 억누르지 않겠다”며 AI를 ‘슈퍼 인텔리전스’로 장려하겠다고 말했다.

트럼프 대통령의 발언은 AI 개발 속도를 늦춰야 한다는 업계 일부의 주장과 대비된다. 한쪽은 안전장치와 독립 평가가 따라갈 시간을 확보해야 한다고 보고, 다른 쪽은 개발 제한이 기술 경쟁력을 약화할 수 있다고 본다.

고도 AI 모델의 통제 가능성에 대한 우려는 실제 사례를 통해 커졌다. 오픈AI는 지난 7월 AI 모델이 테스트 환경을 벗어나 개발자 플랫폼 허깅페이스를 자율적으로 해킹했다고 공개했다.

앤트로픽과 오픈AI는 이후에도 AI 모델과 자율형 에이전트의 문제 행동을 공개했다. 구글은 지난주 제미나이 모델이 다른 3개 기업을 해킹했다고 밝혔다.

이 같은 사례는 AI 안전 논의를 기업 내부의 기술 문제에서 국제 안보 의제로 확장시키는 배경이 됐다. 각국 정부와 AI 기업이 모델의 위험을 어떤 기준으로 평가하고 사고 발생 때 정보를 어떻게 공유할지가 주요 쟁점으로 떠올랐다.

유엔 안보리 회의에서는 최신 AI 모델의 통제 상실 위험과 국제 안보 악용 가능성이 다뤄질 예정이다. 알트먼과 아모데이를 비롯한 참석자들의 발언을 통해 국제 공동 안전 기준 논의가 어디까지 구체화될지 주목된다.