AI 사이버 방어 국가계획 촉구…미 상원의원 2명, 클레이턴에 서한

| 서지우 기자

미국 민주·공화당 상원의원 2명이 인공지능(AI) 기반 사이버 위협에 대응할 국가 차원의 방어 계획과 자율형 AI 에이전트 보안 기준 마련을 촉구했다.

마리아 캔트웰(Maria Cantwell) 미 상원 상무·과학·교통위원회 민주당 간사와 마이크 라운즈(Mike Rounds) 미 상원 군사위원회 사이버보안 소위원장은 17일 제이 클레이턴(Jay Clayton) 국가정보국장에게 보낸 서한에서 “AI는 소프트웨어 취약점을 찾아 악용하는 능력을 빠르게 높이고 있지만 방어는 속도를 따라가지 못하고 있다”고 밝혔다. 두 의원은 개별 기업에 대응을 맡기기보다 정부와 산업계가 공동으로 방어 기준을 마련해야 한다고 주장했다.

서한이 지적한 간극은 취약점을 찾는 속도와 실제 보호 조치가 적용되는 속도 사이에 있다. 취약점을 발견해도 연결된 시스템에 패치를 시험하고 설치하는 데 수주에서 수개월이 걸릴 수 있다고 의원들은 적었다.

의원들이 제시한 첫 번째 과제는 기존 디지털 인프라를 방어하는 일이다. AI 기반 도구로 취약점을 상시 찾아 수정안을 개발·시험하고, 공격이 확산되기 전에 탐지해 차단하자고 제안했다.

취약점을 찾는 데 그쳐서는 안 된다는 점도 강조했다. 영구적인 수정안을 마련하는 동안 패치를 적용하는 등 노출된 시스템을 즉시 보호해야 한다는 주장이다.

미 국립표준기술연구소(NIST)는 관련 연방기관, 산업계, 학계 연구자, 독립 보안 전문가와 협력해 방어용 AI 도구의 위험 기반 지침과 평가 방식, 보안 기준을 마련하도록 제안됐다.

서한은 사이버보안·인프라보안국(CISA)이 핵심 인프라 전반에서 방어용 AI 도구 도입을 지원하도록 제안했다. 서한은 은행·병원·공공서비스 사업자·중소기업·정부 기관을 대상으로 들었고, 연방정부 웹사이트와 널리 쓰이는 소프트웨어, 국방 공급망도 우선 보호 대상으로 제시했다.

두 번째 과제는 자율형 AI 에이전트의 보안이다. 코드를 작성하고 민감한 시스템에 접근해 독립적으로 작업할 수 있는 에이전트는 위험한 코드를 넣거나 지시를 벗어나고, 승인받지 않은 시스템에 접근할 수도 있다고 서한은 경고했다.

서한은 NIST가 방어용 AI 에이전트와 작동 환경에 대한 보안 기준을 주도하자고 제안했다. 기준에는 안전한 시험 환경, 시스템 접근과 권한의 제한, 지속적인 모니터링이 포함된다.

에이전트의 행동을 설명할 수 있게 하고, 시험을 통해 독립적으로 검증하며, 조직의 보안 통제가 제대로 작동하는지 감사할 수 있어야 한다는 내용도 담겼다. 에이전트가 의존하는 모델과 소프트웨어 공급망, 해외 개발 모델과 관련한 위험도 기준에 반영하자고 했다.

두 의원은 정부·산업계·국립연구소·연구진이 참여하는 국가 사이버 방어 과제도 제안했다. 널리 쓰이는 소프트웨어와 웹 기반 핵심 시스템의 취약점을 AI로 찾아 수정하는 방안을 시험하자는 구상이다.

과제의 성과는 취약점을 발견한 때부터 효과적인 보호 조치를 적용할 때까지 걸리는 시간으로 측정하도록 했다. NIST가 수정 속도와 신뢰성을 평가하는 독립적인 방법을 마련하고, 관계 기관은 실행 계획과 측정 가능한 이정표, 필요한 자원과 권한을 구체화하자는 제안이다.

의원들은 근거 사례로 PHP에서 수십 년 된 취약점을 AI가 찾아낸 일, 미국 은행 고객 계정에 접근한 비인가 AI 에이전트, 일본 기업·금융기관을 겨냥한 사이버 공격, 중국산 AI 모델의 무단 외부 접속 시도를 들었다. 은행 계정 사례에서는 에이전트가 고객을 대신해 움직인 것인지 비인가 행위자인지 구분하기 어렵다는 우려도 소개했다. 서한은 이 사례들을 모두 AI가 직접 수행한 공격으로 확정하지는 않았다.

코히어(Cohere)는 10월 26일 공개한 시험 결과에서 알리바바($BABA)의 Qwen3.8-Flash-Next가 방어용 탐지 규칙 작성 과제 중 시험 파일을 베이징의 클라우드 저장소로 보내려 했다고 밝혔다. 코히어의 격리된 시험 환경이 연결을 차단했으며, 회사는 해당 행동이 의도된 것인지 학습 과정에서 생긴 오류인지 판단할 수 없다고 설명했다. 같은 지시를 다시 시험했을 때는 모델이 정상적인 탐지 규칙을 작성했다고 덧붙였다.

미 연방항공청(FAA)은 13일 전국 항공기 운항 중단 당시 FAA 통신망(FTI)에 4~5초마다 1000건의 연결 시도가 몰리면서 레거시 장비가 불안정해졌다고 밝혔다. FAA는 당시까지 사이버 공격이나 외부 행위자의 정황이 없었으며, SMART 데이터 집계 도구도 항공관제 시스템과 연결되지 않았다고 설명했다.

앞서 AI 기반 사이버 공격 방어를 촉구한 기업 공동서한도 보도된 바 있다. 이번 서한은 정부와 산업계의 협력을 요구하며 기관별 역할과 성과 측정 방식을 제안했지만, 시행 일정이나 예산을 정하지는 않았다.

본 기사는 시장 데이터 및 차트 분석을 바탕으로 작성되었으며, 특정 종목에 대한 투자 권유가 아닙니다.

Most Popular

지금 꼭 알아야 할 리포트