AI 사고 통보 논의…군사 오판 우려·보안 연구 사례 주목

미국과 중국이 국가안보에 영향을 미칠 수 있는 인공지능(AI) 사고를 서로 알리는 통보 체계를 논의했다. 다만 정식 핫라인 설치나 공동 운영에 합의했다는 내용은 공개되지 않았다.

스콧 베선트(Scott Bessent) 미국 재무장관은 9월 20일 뉴욕에서 허리펑 중국 국무원 부총리와 회동한 뒤 미국이 ‘notification mechanism’을 제안했다고 밝혔다. 베선트 장관은 “세계 1위와 2위 AI 강국 사이의 불투명성을 줄이고 투명성을 높이는 것은 매우 중요하다”고 말했다.

베선트 장관은 양국이 “공통의 목표와 공통의 위협에 대한 공유된 비전”을 원한다고도 밝혔다. 이번 논의는 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석의 9월 24일 정상회담을 앞두고 이뤄졌다.

중국 외교부는 9월 22일 관련 질문에 중국 측이 발표한 미·중 경제·무역 협의 결과를 참고하라며 구체적인 조치는 담당 기관에 문의하라고 답했다. 통보 체계의 운영 주체나 연락 방식에 대한 중국 측 설명은 나오지 않았다.

이번 사안은 미국이 중국에 AI 사고 통보 체계를 제안했다는 앞선 보도의 후속 맥락에 해당한다. 현재 공개된 내용은 국제기구나 공동 대응센터 설치가 아니라 국가안보 관련 AI 사고를 공유하기 위한 대화와 통보 방식의 검토다.

AI 사고 통보 체계가 실제로 작동하려면 어떤 사고를 국가안보 사안으로 볼지, 언제 누구에게 알릴지, 정보의 정확성을 어떻게 검증할지 정해야 한다. 이번 논의에서는 발동 기준과 법적 구속력, 제재 방식이 제시되지 않았다.

논의의 배경에는 AI가 잘못된 군사정보를 만들어 무력 충돌을 촉발할 수 있다는 우려가 있다. CNN은 올해 초 미국 특수작전사령부 분석관이 AI를 활용해 중국 선박이 이란으로 핵무기 프로그램 관련 부품을 운반한다고 판단한 정보보고서를 작성했다고 보도했다.

해당 정보는 사실이 아니었지만 미군은 선박을 가로막을 계획을 세웠고, 무장 인력의 승선 준비와 군용기의 출격이 이뤄진 상태였다고 CNN은 보도했다. AI는 공개정보와 미국 정부의 비밀 신호정보를 결합해 잘못된 결론을 냈고, 분석관은 이를 군용 정보보고서 형식으로 다시 작성해 유통한 것으로 전해졌다.

실제 선박 화물과 사용된 AI 도구의 종류·상용 여부는 공개되지 않았다. 미국 국방부와 미 특수작전사령부도 해당 보도에 논평하지 않았다.

오픈AI(OpenAI)는 9월 21일 AI 안전 기준 제안에서 정부와 핵심 인프라 운영자가 국가안보 우려와 새로운 취약점·위협을 공유할 수 있는 보안 통신 채널을 마련해야 한다고 밝혔다. 오픈AI는 미·중 간 AI 대화를 긍정적인 조치로 평가하며 공통 측정 방식과 사고 분류·보고 절차가 필요하다고 제안했다.

AI를 활용한 사이버 공격 가능성도 논의의 배경으로 거론됐다. 보안업체 Hacktron AI는 7월 25일 취약점 두 개를 연결해 오픈AI 직원들의 ChatGPT 계정에 접근하고 내부 저장소에 무해한 풀 리퀘스트를 생성했다고 밝혔다.

Hacktron AI는 Discourse 포럼의 이미지 업로드 취약점과 오픈AI의 SSO 설정 오류를 이용한 뒤 ChatGPT·Codex 계정과 GitHub 연동에 접근했다고 설명했다. 연구진은 앤트로픽(Anthropic)의 클로드 오푸스 5(Claude Opus 5)를 활용했으며, 초기 취약점 발견부터 오픈AI 내부 저장소 접근까지 72시간 이내에 이뤄졌다고 밝혔다.

오픈AI는 연구진에게 6500달러(약 895만원)의 버그 바운티를 지급했다. 다만 이 사례는 연구진이 자체 공개한 제한적 보안 조사이며, 실제 악의적 공격자가 같은 경로를 사용했는지는 확인되지 않았다.

조지 첸(George Chen) 아시아그룹 디지털 정책 전문가(파트너)는 AI 위험 통보 메커니즘이 다른 국가가 따를 수 있는 선례가 될 수 있다고 평가했다. 이 평가는 대화 채널의 상징적 의미에 대한 것이며, 실제 운영체계가 마련됐다는 뜻은 아니다.

AI 사고를 알리는 통신 채널은 잘못된 군사정보가 충돌로 번지는 상황을 막는 데 활용될 수 있다. 반면 AI가 기업 시스템을 공격하거나 여러 서버로 확산되는 상황에는 통보만으로 대응하기 어렵다는 지적도 나왔다.

이번 논의와 가상자산의 직접적인 연결점은 제시되지 않았다. 특정 블록체인·거래소·스테이블코인에 대한 공격이나 피해, AI 통보 논의와 연결된 반도체 수출통제 합의·수치도 공개되지 않았다. 미·중 양국은 9월 24일 정상회담을 앞두고 있다.