AI가 클라우드 보안 흔든다… API 공격 41% ↑, 기업 99% 코드에 생성형 AI 활용

인공지능의 급속한 발전이 클라우드 보안에 심각한 위협으로 부상하고 있다는 경고가 나왔다. 팔로알토 네트웍스(PANW)는 2025년 클라우드 보안 현황 보고서를 통해 AI가 사이버 위협의 복잡성과 속도를 더욱 키우고 있으며, 대부분의 조직이 이에 효과적으로 대응하지 못하고 있다고 지적했다.

보고서는 전 세계 보안 및 기술 리더 2,800여 명을 대상으로 한 설문조사와 위협 인텔리전스 조직인 유닛42(Unit 42)의 분석을 바탕으로 작성됐다. 특히 AI 기술 확산이 기존 보안 통제를 우회하는 새로운 공격 벡터를 만들어내고 있으며, 이를 통한 보안 사고가 현실화되고 있다는 점에서 경고음은 더욱 커지고 있다.

조사에 따르면 기업의 99%가 생성형 AI 도구를 소프트웨어 개발에 활용하고 있으며, 이를 통해 클라우드 환경에 투입되는 코드의 양과 속도가 급격히 증가하고 있다. 동시에 주간 배포 주기가 일상이 되며, 보안팀이 위협을 탐지하고 대응할 수 있는 시간은 크게 단축됐다.

AI 도입은 생산성 향상과 동시에 구조적인 리스크도 수반했다. 보고서는 잘못된 구성, 취약한 API, 프롬프트 기반 공격 등 신종 위협이 기존 애플리케이션 보안 체계를 압도하고 있다고 분석했다. 특히 응답자의 대부분이 지난 1년간 AI 시스템을 겨냥한 실질적 공격을 경험했다고 밝혀, AI 위협이 더는 이론적 문제가 아님을 보여줬다.

공격자의 주요 경로에는 AI 비서나 플러그인을 활용한 데이터 탈취, 모델 엔드포인트 악용, 자격 증명 침해 등이 포함됐다. 유닛42는 여기에 더해 에이전트 간 공격 연쇄, 고급 프롬프트 인젝션 등 새로운 침투 방식도 포착했다고 전했다.

또한 보고서는 API가 AI 중심 인프라에서 가장 취약한 지점으로 부상했다고 강조했다. 연간 API 공격은 전년대비 41% 가량 급증하며 보고된 위협 벡터 중 가장 가파른 증가세를 보였다. 이는 AI 에이전트가 클라우드 서비스 및 외부 시스템과의 연동을 위해 API 활용을 확대하고 있기 때문이다.

개발 파이프라인인 CI/CD 과정에서의 구성 오류와 계정 권한 관리 부실도 대형 보안 사고 가능성을 높이고 있다. 응답 기업 절반 이상이 지나치게 관대한 IAM(Identity and Access Management) 설정을 최대 보안 과제로 꼽은 가운데, 데이터 유출은 정상적인 소프트웨어 연동이나 외부 공유처럼 보이는 활동을 통해 이뤄져 탐지가 더욱 어려워졌다.

팔로알토 네트웍스는 조직들이 보안을 개발 초기 단계로 앞당기고, CI/CD에 위협 기반 보안 게이트를 통합하는 등의 방안을 우선순위로 지정해야 한다고 권고했다. 특히 신원 관리, 권한 제어, 자동화 강화를 클라우드 및 AI 도입 확대와 함께 병행해야 한다고 강조했다. 이를 통해 최소 권한 원칙을 실현하고, 민감 정보 노출을 줄이며 수동 대응에서 벗어난 보안 체계를 구축할 수 있을 것으로 전망된다.