자율형 AI 에이전트 확산…기업 보안, ‘의도 분석’ 중심으로 재설계 압박

기업용 시스템을 움직이는 주체가 사람에서 ‘자율형 AI 에이전트’로 빠르게 옮겨가면서 기존 보안 체계의 한계가 뚜렷해지고 있다. 사람의 계정과 예측 가능한 업무 흐름을 전제로 설계된 인프라는 24시간 움직이며 여러 환경을 오가는 에이전트 활동을 제대로 따라가지 못하고 있다는 지적이다.

멘로 시큐리티의 최고제품·전략책임자 라민 파라사트는 구글 클라우드 AI 에이전트 관련 인터뷰에서 기업들이 지금까지는 ‘인간 직원’을 중심으로 보안 환경을 구축해왔지만, 앞으로는 대규모 AI 에이전트가 본격적으로 유입되는 상황에 맞춰 구조 자체를 다시 짜야 한다고 밝혔다. 그는 AI 에이전트가 속도와 확장성에서는 강점을 갖지만, 제로데이 공격이나 프롬프트 인젝션처럼 교묘한 위협을 직감적으로 피하는 인간의 판단력은 없다고 설명했다. 결국 악성 지시를 받으면 그대로 수행할 가능성이 크다는 의미다.

정적 규칙보다 ‘의도 분석’이 핵심으로 부상

파라사트는 자율형 AI 에이전트 시대의 보안은 알려진 위협에 반응하는 방식만으로는 부족하다고 강조했다. 기존 방어 체계가 사전에 정의된 규칙과 서명 기반 탐지에 의존했다면, 이제는 웹 콘텐츠나 명령의 ‘의도’를 실시간으로 해석하는 구조가 필요하다는 것이다.

그는 이런 방식이 있어야 제로데이 익스플로잇, 사회공학 공격, 아직 알려지지 않은 새로운 유형의 위협까지 즉시 차단할 수 있다고 설명했다. 이는 기업 보안이 사후 대응에서 실시간 맥락 분석으로 이동하고 있음을 보여준다. 특히 AI 에이전트가 동적으로 콘텐츠를 읽고 행동을 결정하는 환경에서는 정적인 차단 목록만으로는 대응 속도를 맞추기 어렵다.

멘로 시큐리티는 브라우저를 초기 방어 지점으로 삼는 보안 구조를 제시했다. 사용자가 보는 화면을 시각적으로 분석하는 동시에 HTML과 DOM 구조를 함께 읽어 위협을 탐지하는 방식이다. 이 접근은 수동 조작보다 기계 간 자동 대응에 무게를 둔다. 파라사트는 버튼을 누르는 사람 개입 없이 실시간으로 방어가 이뤄지고, 그 위에서 에이전트가 계속 돌아가며 추가 정보를 보안팀에 제공하는 구조가 가능하다고 말했다.

보안 배포 방식도 ‘즉시 적용’ 중심으로 변화

자율형 AI 에이전트가 확산되면서 보안 솔루션의 배포 방식도 달라지고 있다. 예전처럼 긴 통합 프로젝트를 거치는 대신, 기업들은 이미 AI를 개발·운영하는 환경 안에서 보안 기능이 곧바로 붙기를 원한다. 이 때문에 보안 업체들도 플랫폼 기반 유통 모델을 강화하고 있다.

파라사트는 이런 흐름에 맞춰 자사 에이전트를 구글 클라우드 에이전트 마켓플레이스에 올렸다고 설명했다. 보안 도입 과정에서 발생하는 마찰을 줄이고, 빠른 적용이 가능하도록 하기 위한 조치라는 것이다. AI 에이전트 시대에는 보안 역시 ‘즉시성’이 경쟁력이 되고 있다는 뜻이다.

운영 방식도 달라지고 있다. 기존의 복잡한 대시보드 대신 자연어 기반 인터페이스가 보안 관리에 들어오면서 관리자는 시스템에 직접 명령하듯 정책을 조회하고 수정할 수 있게 된다. 예를 들어 현재 차단 목록을 보여달라고 하거나, 특정 위협 대응 정책을 ‘기록’에서 ‘차단’으로 바꾸라고 지시하면 AI가 이를 처리하는 식이다. 보안 운영의 문턱이 낮아지는 동시에, 정책 변경 속도는 더 빨라질 수 있다.

‘섀도 AI’ 확산…보이지 않는 활동 통제 과제로

자율형 AI 에이전트가 늘어나면서 기업들이 마주한 또 다른 문제는 가시성과 통제다. 이른바 ‘섀도 AI’는 이제 일부 비인가 도구에 그치지 않고 거의 모든 웹사이트와 애플리케이션에 스며들고 있다는 평가가 나온다. 이 경우 특정 서비스 목록을 만들어 추적하는 전통적 방식은 사실상 금세 무력화될 수 있다.

파라사트는 모든 사이트와 애플리케이션이 잠재적인 섀도 AI가 될 수 있어, 목록 기반 관리 방식은 작성되는 순간부터 낡아지기 시작한다고 지적했다. 대신 에이전트가 만들어지는 초기 단계부터 정책과 권한을 심고, 실제 작업 수행 과정에서도 프롬프트 오염, 접근 권한, 행위 규칙을 지속적으로 점검해야 한다고 말했다.

이는 에이전트를 네트워크 경계 밖에서 막는 접근보다, 수명주기 전체에 걸쳐 통제 장치를 심는 방향으로 기업 보안이 이동하고 있음을 뜻한다. 자율형 AI 에이전트가 많아질수록, 이를 사람처럼 관리하는 방식이 아니라 에이전트 수와 속도에 맞는 ‘동적 통제 모델’이 필요하다는 얘기다.

결국 이번 변화의 핵심은 AI를 업무에 붙이는 수준을 넘어, 보안 체계 자체를 AI 중심으로 다시 설계해야 한다는 점이다. 기업 입장에서는 생산성을 높여주는 자율형 AI 에이전트의 도입이 선택이 아니라 흐름이 되고 있지만, 그만큼 보안 구조 개편도 더는 미룰 수 없는 과제가 되고 있다.