AI 사이버 과제 수행 범위, 4.7개월마다 두 배 추정

AI 모델이 80%의 성공률로 해결할 수 있는 사이버 과제의 시간 범위가 2024년 말 이후 약 4.7개월마다 두 배로 늘었다는 추정이 나왔다. 실제 사이버 공격 횟수나 성공률이 같은 속도로 증가했다는 뜻은 아니다.

영국 AI 안전연구소(AI Security Institute·AISI)는 5월 13일 공개한 분석에서 자체 시험 과제를 바탕으로 이 같은 증가 속도를 추정했다. 과제에는 리버스 엔지니어링과 웹 취약점 공격 등이 포함됐다.

여기서 시간 범위는 AI가 작동한 시간이 아니라 인간 전문가가 같은 과제를 수행하는 데 걸리는 시간으로 과제의 길이를 나타낸다. 따라서 4.7개월이라는 수치는 모델이 실제 공격을 수행하는 데 걸리는 시간이나 공격 건수를 뜻하지 않는다.

AISI는 최신 모델의 성적이 기존 추세를 넘어섰지만, 이를 지속적인 새 추세로 볼 수 있을지는 판단하기 어렵다고 밝혔다. 제한된 시험에서 나온 성능을 현실의 방어망이나 공격 결과로 곧바로 옮겨 해석하기 어렵다는 취지다.

소프트웨어 과제를 평가하는 METR에서도 비슷한 증가 속도가 추정됐다. 안드리센호로위츠는 분석글에서 METR의 소프트웨어 과제 수행 범위가 2024년 말 이후 약 4~5개월마다 두 배로 늘었다고 소개했다. 두 기관은 과제와 평가 방식을 다르게 설계했기 때문에 유사한 추정치만으로 사이버 공격과 프로그래밍 능력이 같은 수준에 도달했다고 볼 수는 없다.

실제 조직의 취약점 대응을 보여주는 지표도 있다. 버라이즌(Verizon)의 2026년 데이터 침해 조사 보고서는 알려진 악용 취약점을 완전히 해결하는 데 걸린 기간의 중앙값을 2025년 43일로 집계했다. 전년에는 32일이었다. 같은 보고서에서 해당 취약점을 완전히 해결한 조직의 비율은 38%에서 26%로 낮아졌다.

이 43일과 4.7개월을 직접 맞대어 기업의 패치 시간이 사라졌다고 계산할 수는 없다. 하나는 실제 조직의 취약점 해결 기간이고, 다른 하나는 통제된 시험에서 AI가 일정 성공률로 해결할 수 있는 과제 범위의 증가 속도다.

현장 공격 사례에서는 AI 에이전트의 활용과 방어 장치의 효과가 함께 나타났다. 보안업체 그레이노이즈(GreyNoise)는 8월 말 페이퍼컷 서버를 노린 공격에서 수백 개 AI 에이전트가 취약점 공격 개발과 시험, 표적 탐색에 활용됐다고 기록했다. 공격받은 서버는 최소 440개였고, 피해 대상은 48개국 395개 조직이었다. 공격자가 도메인 관리자 권한을 얻은 조직은 12곳이었다.

구글 위협 인텔리전스 그룹은 범죄자가 AI로 만들었다고 판단한 제로데이 악용 도구를 확인했다. 대규모 공격에 사용되기 전에 차단됐을 가능성이 있다고도 밝혔다. 이 사례는 AI로 만든 공격 도구의 존재와 실제 피해 규모가 같은 의미는 아니라는 점을 보여준다.

산업제어시스템 보안업체 Dragos가 분석한 멕시코 수도사업자 침입에서는 공격자가 AI로 1만7000줄 규모의 도구를 만들고 기업 IT망에서 산업제어망 주변을 살폈다. 산업제어 인터페이스를 겨냥한 비밀번호 대입은 실패했고, Dragos는 운영기술 환경이 침해됐다는 증거를 확인하지 못했다고 밝혔다. 회사는 AI가 기존 공격 기법을 빠르게 적용하는 데 쓰였지만 새로운 산업제어 전용 공격 능력이 확인된 것은 아니라고 평가했다.

가상자산 업계에서는 바이낸스의 10월 29일 보안 사고가 AI 도구가 공격 경로에 포함된 사례다. 바이낸스는 11월 3일 초기 조사에서 약 63억4000만달러(약 8조5900억원)의 디지털 자산이 영향을 받았다고 밝혔다.

바이낸스는 공격자가 침해된 직원 컴퓨터와 내부 AI 도구를 이용해 지갑 인프라 담당자들에게 접근했다고 설명했다. 이후 탈취한 자격 증명과 배포 권한을 거쳐 지갑 서명 시스템에서 비정상 거래를 실행했다는 것이다. 회사가 공개한 내용은 내부 AI 도구가 공격에 이용됐다는 설명이며, AI 모델이 침입부터 자산 이동까지 독립적으로 수행했다는 뜻은 아니다.

AISI는 실제 방어 환경을 더 잘 반영하도록 새 사이버 시험 과제를 개발하고 기존 평가에 방어 기능을 추가하겠다고 밝혔다. 앞으로 공개될 평가에서는 통제된 시험의 성능이 실제 공격과 방어 결과에 어떻게 이어지는지를 살피게 된다.