기업 AI 에이전트, 생산성 뒤의 보안 사각지대…거버넌스 격차 커졌다

기업용 인공지능(AI) 도입이 빨라지는 가운데, 업무 효율을 끌어올린 ‘자율형 에이전트’가 동시에 새로운 보안 취약점으로 떠오르고 있다. 특히 많은 기업이 AI 에이전트를 이미 내부 시스템에 투입하고도 이를 관리할 신뢰·거버넌스 체계를 갖추지 못한 점이 핵심 위험으로 지목된다.

브라이언 팔마 KnowBe4 최고경영자(CEO)는 KB4-CON 2026 행사에서 “지금 보안의 본질적 문제는 도입 속도와 거버넌스 구축 속도 사이의 격차”라며, 기업들이 자사 시스템 안에서 움직이는 AI 에이전트를 먼저 ‘식별’하고 ‘이해’해야 한다고 강조했다. 그는 AI 에이전트를 과거 보안 업계가 사람을 다루던 방식처럼 접근해야 한다고 설명했다. 충분히 훈련되지 않은 자산으로 보고, 무엇을 하는지 파악한 뒤 보호해야 한다는 뜻이다.

팔마는 AI 에이전트가 초등학생과 비슷한 상태라고 비유했다. 악의적인 지시를 구분하지 못하고, 잘못된 명령이나 악성코드 유도에 노출될 수 있다는 설명이다. 그는 “신뢰를 만드는 핵심은 ‘투명성’”이라며 어떤 에이전트가 존재하는지, 어떤 시스템에 연결돼 있는지, 무엇에 접근할 수 있는지를 파악해야 한다고 말했다.

‘사람’ 넘어 ‘AI 에이전트’까지… 보안 관리 범위 확대

KnowBe4는 이런 변화에 맞춰 기존 인간 리스크 관리 플랫폼을 AI 에이전트 보안으로 확장하고 있다. 회사의 AIDA는 임직원 대상 보안 인식 교육을 자동화·개인화하는 도구이고, 새로 공개한 ‘에이전트 리스크 매니저’는 기업 환경에서 가동 중인 AI 에이전트를 목록화하고, 연결 경로와 접근 권한을 파악한 뒤 정책과 제한 장치를 설정하는 데 초점을 맞춘다.

팔마에 따르면 이 도구는 우선 기업 내부의 AI 에이전트 현황을 인벤토리 형태로 정리한다. 이후 각 에이전트가 어떤 프로세스를 사용하고, 이메일 시스템이나 재무 시스템 등 어디와 연결되는지 추적한다. 마지막 단계에서는 에이전트가 할 수 있는 일과 할 수 없는 일을 구분하는 ‘가드레일’을 설정하게 된다.

이는 최근 기업 보안 전략이 ‘이중 위협’ 구조로 재편되고 있다는 점을 보여준다. 같은 AI 에이전트가 한편으로는 생산성을 높이지만, 다른 한편으로는 공격자에게 악용될 수 있는 통로가 되기 때문이다. 결국 기업은 방어와 활용을 동시에 설계해야 하는 상황에 놓였다.

AI 위협 고도화… “향후 1년, 에이전트발 사고 늘어날 것”

KnowBe4는 15년 넘게 7만개 조직, 1억명 이상 사용자를 대상으로 축적한 행동 데이터를 기반으로 AI 모델을 학습해 왔다고 밝혔다. 팔마는 이 점이 경쟁사와 차별화되는 대목이라고 설명했다. 회사가 공개한 ‘2025 인간 리스크 현황’ 보고서에 따르면, 사이버보안 리더의 45%는 ‘끊임없이 진화하는 AI 기반 위협’을 가장 큰 과제로 꼽았다.

AIDA 플랫폼에서는 수동 운영 방식과 비교해 개인 위험 점수가 약 4포인트 낮아지는 효과도 확인됐다고 그는 덧붙였다. 이는 AI를 활용한 맞춤형 보안 교육이 실제 사용자 행동 개선에 일정 부분 기여하고 있음을 시사한다.

KnowBe4는 또 마이크로소프트($MSFT) 코파일럿을 시작으로 제미나이, 클로드, 챗GPT까지 지원 범위를 넓히며 ‘멀티 LLM’ 환경에 대응하고 있다. 기업들이 특정 대형언어모델에만 의존하지 않는 만큼, AI 에이전트 리스크 관리도 여러 모델을 동시에 다룰 수 있어야 한다는 판단이다.

팔마는 앞으로 1년 동안 AI 에이전트가 직접적인 취약점이 돼 기업 사고를 일으키는 사례가 크게 늘어날 수 있다고 경고했다. 그는 “에이전트는 공격 표면을 넓힌다”며 “배치 자체는 매우 중요하고 생산적이지만, 그만큼 큰 위험도 함께 따라온다”고 말했다.

기업 AI 보안의 초점은 이제 단순한 도입 여부를 넘어 ‘누가, 어떤 AI 에이전트를, 어디에 연결해 쓰고 있는가’로 이동하고 있다. 생산성과 혁신을 앞세운 AI 전략이 성과를 내려면, 그 전제 조건으로 신뢰와 통제 체계를 먼저 세워야 한다는 지적에 힘이 실린다.