오픈AI·앤트로픽·구글, AI 안전 협의…공식 합의는 아직

오픈AI와 앤트로픽, 구글 딥마인드가 인공지능(AI) 안전 기준을 놓고 수주간 협의했지만 공동 기준이나 공식 협약을 발표하지는 않았다.

논의 대상에는 출시 전 모델 평가, 독립 검증, 위험 기준, 안전사고 보고 체계가 포함됐다. 세 회사가 어떤 기준을 채택할지와 이를 담당할 별도 기구를 언제 출범시킬지는 정해지지 않았다.

크리스 레헤인(Chris Lehane) 오픈AI 글로벌 정책 책임자는 15일 블룸버그 법률 보도에서 앤트로픽 및 구글 딥마인드와 안전 협의가 수주간 진행됐다고 밝혔다. 그는 안전 문제를 조율하는 데 별도의 반독점 면제가 필요하지 않다는 입장도 내놨다.

◇ 협의가 나온 배경

이번 논의는 다리오 아모데이(Dario Amodei) 앤트로픽 CEO가 12일 발표한 글과 맞물렸다. 아모데이는 프런티어 AI 모델의 성능 개선 속도를 조절하고 민주주의 국가의 AI 기업들이 공통 안전 기준을 마련해야 한다고 주장했다.

아모데이는 외부 평가기관을 기업 내부에 상시 배치해 안전 약속과 사고 보고를 검증하는 방안도 제안했다. 이는 앤트로픽이 AI 기업만 안전성을 판단해서는 안 된다는 입장을 정책 문서에서 밝혀온 흐름과 이어진다.

앤트로픽은 최근 사전 출시 모델의 사이버보안 평가 과정에서 일부 모델이 실제 인터넷 시스템에 접근한 사례를 공개했다. 회사는 모델이 실제 인터넷에 연결된 사실을 인지하지 못한 채 외부 시스템에 접근했으며, 사전 출시 검사가 이런 행동을 예측하지 못했다고 설명했다.

앤트로픽은 이후 해당 사건에 대한 독립 검토를 진행하겠다고 밝혔다. 다만 독립 평가기관의 권한과 정보 접근 범위에 관한 세 회사의 공통 기준은 아직 제시되지 않았다.

오픈AI도 독립 감사, 중대한 안전사고 보고, 위험평가 결과 공개를 프런티어 AI 안전 체계의 핵심 요소로 제시해왔다. 크리스 레헤인은 오픈AI 공식 글에서 독립적이고 객관적인 감사와 사고 보고가 필요하다고 밝혔다.

◇ 기존 포럼과 다른 협의

앤트로픽과 오픈AI, 구글, 마이크로소프트($MSFT)는 2023년 프런티어 모델 포럼을 출범시켰다. 포럼은 AI 안전 연구와 표준화된 평가, 모범 사례 공유를 목표로 삼았다.

이번 협의가 기존 포럼의 확대인지, 별도 안전 기준을 마련하기 위한 논의인지는 정해지지 않았다. 이번에 보도된 협력 대상에는 마이크로소프트가 포함되지 않았고 구글 측의 별도 공식 발표도 나오지 않았다.

샘 알트먼(Sam Altman) 오픈AI CEO는 X에서 AI 개발 속도를 조절해야 한다는 아모데이의 주장에 동의하며 오픈AI 내부에서도 관련 논의가 진행 중이라는 취지의 반응을 보인 것으로 수집됐다. 다만 해당 게시물은 공개 수집 과정에서 원문 직접 확인이 제한돼 SNS 반응으로만 볼 필요가 있다.

일론 머스크(Elon Musk)도 아모데이의 주장에 동의한다는 취지의 글을 올린 것으로 보도됐다. 반면 일부 업계 비평가들은 선도 기업들이 안전 기준을 직접 정하면 후발 기업의 진입을 어렵게 하거나 규제 포획으로 이어질 수 있다고 지적했다.

레헤인은 안전 협력에 별도 반독점 면제가 필요하지 않다고 밝혔지만, 실제 협력 범위와 기준의 구속력에 따라 규제 논의가 달라질 수 있다. 안전을 이유로 모델 출시 일정이나 경쟁 조건을 함께 조정할 경우 경쟁 제한 논란이 다시 제기될 여지도 있다.

주요 AI 기업 수장들이 개발 속도 조절에 공감했지만 공동 협약이나 실행 일정으로 이어지지 않았던 흐름은 이번 협의와도 맞닿아 있다. 당시에도 독립 평가기관의 상시 점검과 공동 감속 기준의 구체화가 과제로 남았다.

현재 확인된 사실은 세 회사가 AI 안전 문제를 논의하고 있다는 점이다. 향후 공동 안전 기준과 독립 평가 절차, 사고 보고 규칙이 문서로 공개될지가 협력의 실효성을 가를 기준이 된다.