AI 보안 새 패러다임… 위트니스AI, '에이전틱 시큐리티'로 자율 에이전트 보호 나선다

인공지능 보안 플랫폼 스타트업 위트니스AI(WitnessAI)가 자율형 AI 에이전트 확산 흐름에 발맞춰 새로운 보안 기술 ‘에이전틱 시큐리티(Agentic Security)’를 출시했다. 이는 대형 언어 모델(LLM)을 넘어서 내부 시스템 및 다양한 외부 API에 접근하는 자율형·반자율형 AI 에이전트의 보안 리스크 대응을 목표로 한다.

이번 기술은 자연어 명령으로 동작하는 AI 에이전트들이 광범위한 툴과 시스템을 자동으로 활용하면서 발생할 수 있는 보안 사각지대를 해소하기 위해 고안됐다. 기업 내 보안팀은 현재 어떤 에이전트가 어떤 도구를 사용하고 있으며, 어떤 유형의 리스크에 노출돼 있는지 파악하지 못하는 경우가 많다. 특히 에이전트가 단 하나의 악성 프롬프트만으로도 연쇄적인 도구 호출이나 API 요청, DB 질의 등을 실행할 수 있어 ‘프롬프트 인젝션’, 데이터 유출, 무단 명령 실행 등의 사고가 발생할 수 있다.

위트니스AI는 에이전트의 이러한 특성이 기존 챗봇형 AI보다 훨씬 복잡하고 강력한 위협 모델을 형성한다고 지적한다. 이에 따라 에이전틱 시큐리티는 Claude 데스크톱, ChatGPT 플러그인, VS코드 AI 확장 기능, LangChain, LlamaIndex, CrewAI, AutoGPT처럼 고위험군 환경 내에서의 모든 에이전트 활동을 자동으로 탐지할 수 있도록 설계됐다.

이 기술은 네트워크 트래픽 분석을 통해 일반 챗봇 세션과 에이전트 세션을 구분하며, 공개 및 사내 모델 서버 정보를 수집해 에이전트의 의도와 기능을 분류하는 기능도 제공한다. 보안팀은 이를 기반으로 에이전트 실행 주체를 특정하고, 작업 실행 경위를 추적해 단일 보안 정책 체계를 적용할 수 있다. 사람과 에이전트를 동일 정책 아래서 통합 관리할 수 있도록 지원한다는 점에서 보안 거버넌스 측면에서 강점이 부각된다.

에이전틱 시큐리티는 사전 실행 프롬프트 스캐닝 및 악성 프롬프트 차단 기능도 갖췄다. 프롬프트 인젝션, ‘탈옥(jailbreaking)’ 공격, 역할-시나리오 기반 공격 등을 사전에 막으며, 민감 데이터·개인정보는 실시간으로 토큰화 과정이 이뤄진다. 에이전트로부터 생성되는 최종 출력도 정책에 따라 필터링하거나 차단할 수 있으며, 단순 키워드 검열이 아닌 행위 의도 중심의 정밀 분석을 통해 수행된다.

릭 카치아(Rick Caccia) 위트니스AI 최고경영자(CEO)는 “AI 워크플로우는 이제 기업 내부 LLM, 봇, 에이전트를 넘나드는 복잡한 경계로 진화 중”이라며, “우리는 AI 상호작용 전반을 단일 솔루션으로 보호할 수 있는 유일한 AI 보안 회사”라고 강조했다. 그는 이어 “네트워크 프록시, 방화벽, 데이터 유출 방지(DLP), XDR 같은 기존 보안 시스템만으로는 복잡한 AI 흐름을 감당하기 어렵다”고 덧붙였다.

위트니스AI는 구글 벤처스(GV Management Co.)와 벌리스틱 벤처스(Ballistic Ventures) 등으로부터 2024년 5월에 2,750만 달러(약 396억 원)의 투자 유치를 받은 바 있다. 에이전틱 시큐리티는 이 같은 투자 기반 위에서 AI 활용 확산과 함께 커지는 보안 수요를 정조준하고 있다.