백악관, 폐쇄형 프런티어 AI 중심 자발적 사전 검토 추진

미국 백악관이 고성능 인공지능(AI) 모델의 공개 전 안전 검토 대상을 폐쇄형 프런티어 모델로 좁히는 방안을 추진한다. 오픈 모델은 우선 대상에서 제외됐다.

백악관은 6월 2일 행정명령 14409호에서 ‘대상 프런티어 모델’을 식별할 기밀 벤치마킹 절차를 마련하도록 지시했다. AI 개발사가 모델 공개 전 최대 30일 동안 연방정부에 접근권을 제공하는 자발적 프레임워크를 설계하는 내용도 담았다.

행정명령은 새 AI 모델의 개발·공개·배포에 의무적 정부 허가제나 사전 승인제를 도입하는 조치가 아니라고 명시했다. 정부가 고위험 모델을 공개 전에 시험하되 기업 참여는 자발적 방식으로 설계하는 구조다.

액시오스(Axios)는 백악관과 업계가 검토한 프레임워크가 적용 대상을 ‘최첨단 역량과 국가안보 위험을 가진 폐쇄형 모델’로 정의했다고 4일 보도했다. 공개된 오픈 모델을 제한하는 것으로 해석해서는 안 된다는 문구도 포함된 것으로 전해졌다.

무엇이 ‘최첨단’에 해당하는지, 어느 수준부터 국가안보 위험으로 판단할지에 관한 공개 기준은 확인되지 않았다. 액시오스는 검토 기간에 모델을 고보안 환경에 보관하고 접근자를 기록하며 직원의 접근도 제한하는 방안이 논의됐다고 전했다.

이번 보도는 백악관이 마련한 최대 30일 사전 접근 방식의 AI 평가 체계에서 적용 범위를 구체화한 후속 내용이다. 프레임워크 전문이 공개되지 않을 수 있다는 보도도 나와 대상 선정과 운영 절차의 투명성이 쟁점으로 남았다.

월스트리트저널(The Wall Street Journal)은 이 지침이 오픈AI(OpenAI), 앤트로픽(Anthropic), 구글(Google) 등 미국의 폐쇄형 AI 모델 개발사에 직접 영향을 줄 수 있다고 전했다. 사이버보안과 해킹 관련 벤치마크에서 최상위 역량을 보인 모델을 공개 전 정부 시험에 자발적으로 제출하는 방식이다.

프런티어 모델은 성능과 잠재적 위험이 최상위권으로 평가되는 고성능 AI 모델을 뜻한다. 폐쇄형 모델은 가중치나 핵심 구조를 외부에 공개하지 않는 반면, 오픈 모델은 가중치나 일부 구성요소를 공개해 외부 개발자가 활용하거나 수정할 수 있도록 한다.

백악관은 AI 모델이 취약점 탐색과 침투 자동화, 중요 인프라의 방어·공격 역량에 활용될 수 있다는 판단을 이번 조치의 배경으로 제시했다. 행정명령에는 AI 사이버보안 클리어링하우스 설치와 연방·지방정부 및 중요 인프라 운영자의 AI 보안 도구 접근 확대도 담겼다.

AI를 이용한 불법 시스템 침입과 데이터 탈취에 대한 단속도 우선순위로 제시됐다. 모델 성능 자체보다 사이버 공격에 악용될 역량과 국가안보 위험을 공개 전 검토 기준으로 삼겠다는 취지다.

오픈 모델을 둘러싼 정책 논의는 별도로 이어지고 있다. 세마포(Semafor)는 미 행정부가 중국 관련 우려와 맞물려 오픈소스 AI 모델에 대한 추가 조치를 배제하지 않았다고 7월 15일 보도했다.

숀 케언크로스(Sean Cairncross) 국가사이버국장은 당시 브리핑에서 “대통령의 비전은 오픈소스 생태계 보안과 강화 없이는 달성할 수 없다”고 말했다. 이번 프레임워크에서 오픈 모델을 제외한 조치가 오픈소스 AI 전반에 대한 규제 논의의 종료를 뜻하지는 않는다는 설명이다.

국내에서는 반도체와 피지컬 AI, AI 데이터센터를 묶은 산업 프로젝트가 정책 축으로 추진되고 있다. 다만 이번 미국 프레임워크에는 특정 반도체 기업이나 칩 수출 규정의 변경, 크립토·블록체인 관련 규제 조치가 담기지 않았다.

검증 출처: 백악관 행정명령 14409호, 액시오스, 월스트리트저널, 세마포