자율형 AI 에이전트 노린 ‘에이전트재킹’ 부상…테넷 시큐리티, 실행 전 차단 플랫폼 출시

기업들이 자율형 AI 에이전트에 핵심 시스템 접근 권한을 빠르게 넘기면서, 이를 노린 새로운 보안 시장도 본격적으로 열리고 있다. 시스코 출신 인공지능 보안 연구원들이 설립한 테넷 시큐리티가 이런 흐름에 맞춰 AI 에이전트의 위험 행동을 사전에 차단하는 플랫폼을 공식 출시했다.

테넷 시큐리티는 17일(현지시간) 자사 플랫폼과 함께 핵심 기술인 ‘에이전트 사이드 시뮬레이션’을 공개했다. 이 기술은 AI 에이전트가 실제 운영 환경에서 다음에 어떤 행동을 할지 미리 가상 실행해 보고, 위험한 경로가 감지되면 실제 시스템에 영향을 주기 전에 개입하는 방식이다. 단순히 경고만 보내는 기존 보안 도구와 달리, 문제 행동 자체를 실행 전 단계에서 막는 데 초점을 맞췄다.

최근 기업들은 AI 에이전트에 코드 실행, 데이터베이스 조회, 운영 시스템 수정 같은 권한을 부여하고 있다. 문제는 이들이 실제 환경에서 어떤 판단을 내리고 어떤 작업을 수행하는지 보안팀이 완전히 파악하기 어렵다는 점이다. 테넷 시큐리티는 실제로 많은 조직에서 보안팀이 인지한 것보다 최대 5배 많은 AI 에이전트가 운영되고 있다고 설명했다.

공동창업자이자 최고경영자 바락 스턴버그는 “AI 에이전트는 기업 생산성을 수십 년 만에 가장 크게 끌어올릴 수 있는 도구”라면서도 “자율형 에이전트가 시스템, 데이터, 다른 에이전트와 상호작용하는 방식은 기존 보안 도구가 이해하도록 설계되지 않았다”고 말했다.

‘에이전트재킹’ 공격 부상…기존 보안 솔루션은 놓쳤다

테넷 시큐리티의 출범 배경에는 이 회사 위협 연구 조직이 추적해 온 ‘에이전트재킹’ 공격이 있다. 이는 공격자가 이메일, 로그 기록, 데이터베이스 항목처럼 AI 에이전트가 읽는 정보 안에 악성 지시문을 숨겨 넣고, 이를 통해 이후 행동을 장악하는 방식이다. 겉으로 보면 에이전트가 정상 권한 내에서 움직이기 때문에 기존 보안 솔루션이 이상 신호를 놓치기 쉽다.

테넷 시큐리티는 100개가 넘는 기업 환경에서 관련 테스트를 진행한 결과, 수천 개 조직이 이 공격에 노출될 수 있다고 밝혔다. 기존 보안 도구는 이를 제대로 탐지하지 못했다. 에이전트가 허용된 권한 범위 안에서 행동했기 때문에 경보가 울리지 않았다는 설명이다.

공동창업자 네보 포란은 “AI 에이전트 자체가 공격 경로의 일부가 되는 사례가 점점 늘고 있다”며 “이 위협을 막을 수 있는 마지막 지점은 에이전트가 실제 행동을 결정하는 ‘실행 시점’”이라고 말했다.

테넷 시큐리티를 세운 스턴버그와 포란은 모두 시스코의 AI 디펜스 부문에서 활동한 공격형 보안 연구원 출신이다. 두 사람은 앞서 사이버보안 기업 와일드 포인터를 운영하며 포춘 500 고객사를 확보했고, 연간 매출 100만달러 이상을 기록한 바 있다. 원화 기준으로는 약 15억1560만원 수준이다. 두 창업자 모두 글로벌 보안 행사 ‘데프콘’과 ‘블랙햇’에서 발표 경력을 갖고 있다.

실사용 사례서 비용 낭비·공격 시도 확인…600만달러 투자 유치

초기 도입 사례는 AI 에이전트 보안 문제가 이미 현실화하고 있음을 보여준다. 테넷 시큐리티에 따르면 연간 반복 매출 10억달러, 원화 약 1조5156억원 규모의 한 법률 업계 기업은 6개월 동안 AI 에이전트 운영 수가 2개에서 20개 이상으로 늘었다. 이 과정에서 테넷 플랫폼은 10건이 넘는 공격 시도를 차단했고, 그중에는 치명적인 크로스사이트 스크립팅 시도도 포함됐다.

또 다른 포천 1000 고객사에서는 통제되지 않은 AI 에이전트가 주말 사이 수만달러 규모의 토큰 사용 비용을 발생시키는 문제를 탐지했다. 이는 원화로 수천만원대에 해당할 수 있는 수준이다. AI 에이전트가 단순 보안 리스크를 넘어 운영비용과 인프라 관리 문제로도 이어질 수 있다는 점을 보여주는 사례다.

테넷 시큐리티는 이번 출범과 함께 600만달러, 원화 약 90억9360만원 규모의 시드 투자도 유치했다. 이번 투자는 제품 개발, 위협 연구 조직 확대, 북미 시장 진출 강화에 활용될 예정이다. 투자 라운드는 센티넬원의 초기 투자사로 알려진 웨슬리 그룹이 주도했고, 미즈마 벤처스가 참여했다. 자문단에는 로빈후드 마켓츠의 전 최고정보보안책임자 데이비드 슈웨드와 뉴욕멜론은행의 전 최고정보보안책임자 릭 스콧이 이름을 올렸다.

AI 에이전트 확산 속도가 빨라질수록 보안의 초점도 ‘사후 탐지’에서 ‘사전 통제’로 이동할 가능성이 커지고 있다. 테넷 시큐리티의 등장은 기업용 AI 에이전트 시장이 성장하는 만큼, 이를 둘러싼 보안 산업도 함께 재편될 수 있음을 보여주는 신호로 읽힌다.