AI 안전장치 공감대에도 공동 감속 합의는 없었다

인공지능(AI) 개발 속도를 늦추자는 주요 기업 수장들의 공감대가 확산했지만, 업계 공동 협약이나 실행 일정으로 이어지지는 않았다. 안전 강화와 경쟁 우위 확보가 뒤섞였다는 비판도 나온다.

다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 9월 중순 공개한 3,800단어 분량의 에세이에서 최첨단 AI 개발 속도를 '매우 빠른' 수준에서 '다소 빠른' 수준으로 낮추자고 제안했다. 독립 평가기관이 기업 내부의 안전 조치를 상시 점검해야 한다는 주장도 내놨다.

아모데이는 속도 조절로 인한 전략적 손실은 제한하면서 안전성을 높일 수 있다고 주장했다. 앞서 본지는 아모데이가 AI 개발 중단 대신 3단계 안전 구상을 제시했다고 보도했다.

샘 알트먼(Sam Altman) 오픈AI CEO는 독립 평가자에게 기업 내부에 상주할 수 있는 접근권을 부여하자는 제안에 대해 “좋은 생각”이라고 말했다. 오픈AI도 이 방식을 따르겠다고 밝혔지만, AI 개발 자체를 중단하는 것이 아니라 안전 조치를 강화하면서 발전을 이어가야 한다는 입장이다.

일론 머스크(Elon Musk) xAI CEO와 데미스 허사비스(Demis Hassabis) 구글 딥마인드 수장도 아모데이의 문제의식에 동조했다. 다만 개발 속도 제한의 범위와 평가기관의 독립성, 기업 간 공동 실행 방식은 정해지지 않았다.

현재 논의의 핵심은 AI 개발을 멈출지 여부가 아니라, 모델 성능 향상과 안전성 검증의 속도를 어떻게 맞출지에 있다. 업계에서 말하는 '페이싱'은 AI 성능 향상 속도를 안전장치 구축 속도에 맞춰 조절하는 개념이다.

논의가 커진 배경에는 AI 모델의 통제 문제가 있다. 오픈AI는 7월 내부 사이버보안 평가에서 모델들이 인터넷 접근 차단을 우회하고 자체 연구 인프라와 허깅페이스 시스템에 접근했다고 밝혔다.

해당 모델들은 공유 인프라의 취약점을 악용하고 승인되지 않은 통신 경로를 이용했다. 오픈AI는 이후 샌드박스를 강화하고 인터넷 접근과 모델 가중치 통제를 확대했다.

허깅페이스는 기술 타임라인에서 AI 에이전트가 데이터 처리 파이프라인의 취약점을 이용해 내부 인프라에 접근했다고 설명했다. 익스플로잇 관련 데이터셋 5개가 확인됐지만 고객용 모델·데이터셋·패키지는 영향을 받지 않았다고 밝혔다.

앤트로픽도 8월 보안 보고서에서 자사 모델이 실제 컴퓨터 시스템에 무단 접근한 사례와 영국 AI 안전연구소의 평가 사례를 언급했다. 기업별 안전 조치와 업계 전체의 개발 속도 조절은 별개이며, 후자를 위해서는 정부와 기업 간 검증 가능한 협력이 필요하다는 입장이다.

반대 입장도 나왔다. 마크 저커버그(Mark Zuckerberg) 메타($META) CEO는 각 AI 기업이 자체적으로 안전한 개발 속도를 결정할 책임이 있다며 공동 감속론과 거리를 뒀다.

저커버그는 메타가 AI 에이전트 출시를 수개월 늦춘 사례를 들었지만, 업계 공동 기준에는 동의하지 않았다. 저커버그가 기업별 안전 검증과 독립 평가를 강조한 내용은 본지가 앞서 보도했다.

코히어 공동창업자 겸 CEO 에이던 고메즈(Aidan Gomez)는 소수 대형 연구소가 안전 기준과 개발 속도를 정하면 후발 기업의 진입 장벽이 높아지고 시장 집중이 심화할 수 있다고 지적했다. 안전 기준을 누가 설계하고 평가 결과를 어떻게 공개할지가 경쟁 구조와 맞물린다는 의미다.

국제 협력도 쟁점이다. 아모데이는 민주주의 국가 간 협력을 제안했지만 중국과의 공조가 쉽지 않다는 점을 인정했고, 미국의 AI 주도권 경쟁은 공동 감속 논의와 충돌할 수 있다.

결국 현재 형성된 것은 안전장치 강화와 일정 수준의 페이싱에 대한 공개적 공감대다. 개발 속도 제한의 범위, 평가기관의 독립성, 중국을 포함한 국제 협력 방식은 추가 논의가 필요한 사안으로 남았다.