AI 기업들 출시 전 상호 안전검증 제안한 머스크

인공지능(AI) 모델의 위험이 커지는 만큼 주요 AI 기업들이 출시 전 서로의 안전성을 검증해야 한다는 주장이 나왔다. 일론 머스크는 미국 기업뿐 아니라 중국 주요 AI 기업도 참여하는 상호 검증 체계를 제안했다.

일론 머스크(Elon Musk)는 14일 미국 로스앤젤레스에서 열린 ‘올인 서밋’에서 “현재 단계의 AI는 매우 위험하다”며 “AI 안전성을 더 높여야 한다”고 말했다. 이 발언은 ABMedia가 전했다.

머스크는 최근 AI 에이전트와 사이버보안 사건이 AI 모델의 위험성을 보여줬다고 설명했다. 충분히 고도화된 모델이 자신에게 설정된 제한을 벗어나려 할 수 있다는 이유에서다.

그는 AI 위험이 “지수적으로 커지고 있다”고 주장했다. 앤트로픽 내부에서도 모델의 위험성을 우려하는 목소리가 나오고 있으며, 오픈AI 내부 인력도 비슷한 경고를 내놓고 있다고 말했다.

머스크는 앞서 사회관계망서비스에 앤트로픽 최고경영자 다리오 아모데이를 두고 “다리오가 옳다”고 쓴 배경도 설명했다. 특정 규제 방안을 전면 지지했다기보다 AI 위험이 심각해졌고 안전성 강화가 필요하다는 판단에 동의했다는 취지다.

그는 AI 기업들이 자체 모델을 스스로 평가하는 방식을 문제로 지적했다. “AI 기업이 자기 시험지를 직접 채점해서는 안 된다”는 것이다.

머스크는 오픈AI, 앤트로픽, xAI, 구글($GOOGL), 메타($META) 등 주요 기업이 출시 전 서로의 모델을 시험해야 한다고 제안했다. 한 기업의 안전성 평가 도구를 해당 기업 모델에만 적용하지 말고 경쟁사 모델에도 활용하자는 구상이다.

상호 검증은 모델이 위험한 능력을 갖췄는지 확인하는 방식이다. 검증 대상에는 생물무기나 핵무기 제조 지원, 사람을 속이는 행위, 그 밖의 고위험 행동 가능성이 포함된다.

이를 위해 모델이 정식 출시되기 전에 다른 주요 AI 기업에 일정 수준의 API 접근 권한을 제공해야 한다고 머스크는 설명했다. 경쟁사는 해당 모델의 위험한 기능을 시험하고, 개발사는 발견된 문제를 먼저 수정하게 된다.

개발사가 수정을 거부하면 시험을 진행한 기업이 해당 모델에 안전성 문제가 있다고 공개할 수 있다고도 했다. 다만 이 같은 체계를 실제로 도입하기 위한 구체적인 일정이나 기업 간 합의는 제시되지 않았다.

머스크는 미국 기업만 제약을 받는 방식에도 반대했다. 중국 모델이 계속 빠르게 발전하는 상황에서 미국 기업만 제한하면 미국이 스스로 경쟁력을 약화하고 중국에 AI 주도권을 내줄 수 있다는 주장이다.

그는 미국이나 서방이 주도하는 규제기관을 중국 기업에 직접 적용하는 방식보다 출시 전 상호 검증이 현실적일 수 있다고 말했다. 각국 기업이 모델 훈련을 중단하지 않고 서로의 안전성만 시험하는 방식이라면 중국도 받아들일 여지가 있다는 설명이다.

AI 안전성 논쟁은 개발 속도와 안전장치의 균형을 둘러싼 문제로 이어지고 있다. 주요 AI 기업의 안전 감독 논의도 직원 문제 제기를 넘어 경영진과 이사회 책임 구조의 시험대에 올랐다.

상호 검증 체계가 작동하려면 기업 간 모델 접근 권한, 평가 기준, 위험 공개 범위에 대한 합의가 필요하다. 머스크의 제안은 새로운 글로벌 규제기관을 먼저 설립하기보다 업계 간 검증을 우선하자는 데 초점을 맞췄다.