AI 에이전트 확산…기업 보안, ‘인간 리스크’ 넘어 ‘에이전트 리스크’로

기업 보안의 중심이 ‘사람’에서 ‘사람과 AI’로 빠르게 옮겨가고 있다. 업무 현장에 AI 에이전트가 본격 투입되면서, 이제 기업은 직원의 피싱 대응 역량뿐 아니라 비(非)인간 디지털 작업자의 권한과 행동까지 함께 관리해야 하는 상황에 놓였다.

맷 듀렌(Matt Duren) 노비포(KnowBe4) AI·데이터 부문 부사장은 KB4-CON 2026 행사에서 “현대 AI가 할 수 있는 일은 매우 크고, 훨씬 더 지능적”이라며 “대부분의 리더는 인간 노동자와 디지털 노동자 사이에서 선택할 수 없는 단계에 왔다”고 말했다. 이어 “올해의 핵심 과제는 전체 디지털 인력을 같은 수준으로 보호하는 방법”이라고 강조했다.

‘인간 리스크’에서 ‘에이전트 리스크’로

노비포에 따르면 기업이 마주한 위협 지형은 크게 달라지고 있다. 기존에는 피싱 이메일에 속는 직원 같은 ‘인간 리스크’ 관리가 보안의 핵심이었다면, 이제는 조직 내 워크플로에 투입된 AI 에이전트가 새로운 변수로 떠오르고 있다. 특히 AI 에이전트 도입 속도가 거버넌스와 통제 체계를 앞지르면서, 생산성을 높이는 같은 속도가 공격자에게는 악용 기회가 될 수 있다는 설명이다.

노비포의 ‘2025 인간 리스크 현황’ 보고서에 따르면 사이버보안 책임자의 45%는 ‘계속 진화하는 AI 기반 위협’을 가장 큰 과제로 꼽았다. 이는 단순한 기술 이슈를 넘어, 기업 운영 전반의 리스크 관리 체계를 다시 짜야 한다는 신호로 읽힌다.

노비포, AI 에이전트 가시성 강화 나서

노비포는 이런 변화에 대응하기 위해 두 축의 제품 전략을 제시했다. 첫 번째는 2026년 1분기 출시한 ‘AIDA 오케스트레이션’이다. 이 기능은 인공지능 방어 에이전트 제품군의 8번째 에이전트로, 피싱 모의훈련과 보안 인식 교육을 자동으로 생성하고 일정에 맞춰 배포하며, 각 사용자별로 맞춤형 내용까지 설계한다.

이 과정에는 14억건이 넘는 리스크 이벤트 처리 데이터가 활용된다. 쉽게 말해 직원마다 어떤 유형의 위협에 취약한지 분석한 뒤, 그에 맞는 훈련과 교육을 자동으로 제공하는 구조다.

두 번째는 현재 기술 프리뷰 단계인 ‘에이전트 리스크 매니저’다. 이 제품은 보안팀이 조직 내부에서 어떤 AI 에이전트가 돌아가고 있는지, 어떤 업무를 수행하는지, 어떤 데이터와 시스템에 접근하는지, 그리고 사람이 이들과 어떻게 상호작용하는지 한눈에 파악할 수 있게 설계됐다.

듀렌은 “보안팀은 우선 어떤 에이전트가 존재하는지 이해해야 한다”며 “그들이 무엇을 하고, 무엇에 접근하며, 인간이 그 에이전트와 어떻게 상호작용하는지, 궁극적으로 비즈니스와 인력에 어떤 영향을 미치는지 알아야 한다”고 말했다.

설명 가능한 리스크 점수가 핵심

이들 기능의 기반에는 노비포의 ‘스마트리스크’ 점수가 있다. 현재 이 점수 체계는 인간 행동과 AI 에이전트 활동을 아우르는 316개 지표를 바탕으로 작동한다. 회사는 기존 점수 모델을 개편해 ‘설명 가능성’을 강화하는 데 초점을 맞췄다고 밝혔다.

이는 점수가 왜 오르거나 내렸는지 보안 담당자가 명확히 이해할 수 있도록 만들었다는 뜻이다. 향후에는 AI가 개인 또는 조직 차원의 리스크 분석과 권고사항까지 자동 제시하는 기능도 추가될 예정이다.

듀렌은 과거 모델에 대해 “자체 학습시킨 AI 모델을 사용했기 때문에 설명 가능성이 높지 않았다”며 “이제는 더 복잡한 알고리즘 접근을 적용하면서도, 내부적으로는 AI와 에이전트를 적극 활용하는 구조로 바꿨다”고 설명했다.

단일 모델보다 ‘목적별 최적화’ 전략

노비포는 특정 거대언어모델 하나에 의존하지 않고, 업무별로 가장 적합한 모델을 조합하는 ‘하이브리드’ 구조를 택했다. 작업 종류에 따라 비용, 정확도, 지연시간을 각각 따져 최적 모델을 배치하는 방식이다.

듀렌은 실제로 내부에서 운용되는 에이전트 수가 집계 방식에 따라 10개에서 20개 수준에 이를 수 있다고 설명했다. AI 에이전트가 늘어날수록 중요한 것은 성능만이 아니라 ‘신뢰’라는 점도 함께 짚었다.

그는 최고정보보호책임자(CISO) 절반 이상이 AI 도입을 미루는 이유로 “에이전트가 무엇을 왜 하는지 아직 검증할 수 없기 때문”이라고 진단했다. 이는 단순한 보안 문제가 아니라, 기업의 의사결정과 도입 속도를 늦추는 경영 문제이기도 하다.

AI 도입 지연도 새로운 위험

듀렌은 이런 상황을 두고 ‘위험한 멈춤’이라고 표현했다. AI 에이전트의 작동 속도는 사람과 비교할 수 없을 만큼 빠르기 때문에, 작은 권한 오남용이나 설정 실수도 순식간에 큰 사고로 번질 수 있다는 의미다.

그는 “이를 해결한 기업은 지금까지 본 적 없는 속도로 움직일 수 있다”며 “에이전트는 기계 속도로 움직이기 때문에, 작은 리스크라도 매우 빠르게 악용될 수 있다”고 말했다.

결국 기업 보안은 더 이상 직원 교육만으로 끝나지 않는다. 앞으로의 경쟁력은 사람의 실수와 AI 에이전트의 오작동, 그리고 둘 사이의 상호작용까지 함께 통제할 수 있느냐에 달려 있다는 분석이 나온다. AI 에이전트 확산이 본격화할수록 ‘에이전트 리스크 관리’는 선택이 아니라 핵심 보안 체계로 자리 잡을 가능성이 크다.