DTEX, ‘섀도우 AI’까지 잡는다…기업용 AI 리스크 관리에 ‘의도 분석’ 확대

DTEX시스템즈가 직원과 자율형 인공지능 에이전트의 생성형 AI 사용 ‘의도’까지 분석하는 AI 리스크 관리 제품을 확대 출시했다. 기업 내 AI 활용이 빠르게 늘어나는 가운데, 단순 활동 추적을 넘어 해당 행동이 정상적인 목적에 부합하는지 판단하겠다는 점이 핵심이다.

회사는 이번 제품이 사용자, 엔드포인트, 업무 흐름 전반에서 승인된 AI와 비승인 AI 사용을 함께 찾아낸다고 설명했다. 브라우저, 애플리케이션, 내장형 AI 활동까지 포괄하며, 이른바 ‘섀도우 AI’와 숨겨진 코파일럿을 실시간으로 식별한다. 동시에 승인된 도구 목록을 만들고, 확인되지 않은 도구의 위험 수준도 분류한다.

또 프롬프트와 응답, 데이터 이동 흐름을 세부적으로 추적해 소스코드, 지식재산권, 기타 민감 정보 유출 가능성을 탐지하도록 설계됐다. 최근 기업들이 생성형 AI를 업무에 적극 도입하면서 생산성 향상 기대는 커졌지만, 내부 데이터가 외부 모델이나 자동화된 에이전트를 통해 새어 나갈 수 있다는 우려도 함께 커진 상황을 겨냥한 셈이다.

사람과 AI 기반 행동 구분

DTEX시스템즈가 특히 강조한 부분은 사람의 행동과 AI 기반 행동을 구분하는 기능이다. 회사는 이 제품이 ‘컴퓨터 유즈 AI’에 대한 가시성을 제공해, 에이전트가 어떤 지시를 받았고 어떤 방식으로 작업을 수행했는지, 또 여러 시스템에서 어떤 행동 이력이 이어졌는지 파악할 수 있다고 밝혔다. 프롬프트, 행위 기준선, 에이전트 행동을 시간 흐름에 따라 연계 분석해 단순 실험과 위험하거나 악의적인 행위를 구분할 수 있다는 설명이다.

실제 초기 도입 사례에서는 자율형 에이전트가 허용된 권한과 정상 업무 흐름 안에서 움직이면서도 민감 데이터를 노출하는 사례를 포착했다고 회사는 전했다. 겉으로는 정상적인 프로세스로 보이지만, 결과적으로 위험을 키우는 행동을 사고 발생 전에 찾아냈다는 의미다.

마셜 하일먼 최고경영자(CEO)는 “AI 에이전트는 이제 기업 내부에서 데이터를 조회하고 시스템과 상호작용하며 자율적으로 행동하는 운영 주체가 되고 있다”며 “많은 보안 솔루션이 AI 활동을 모니터링할 수는 있지만, 그 행동이 실제 의도에 부합하는지 또는 위험을 초래하는지는 여전히 판단하지 못한다”고 말했다.

대응 자동화와 연구 기반 확대

DTEX시스템즈는 탐지에 그치지 않고 대응 자동화도 강화했다. 이번 확장과 함께 두 개의 자율형 보안 에이전트도 추가했다. ‘트리아지 가디언’은 다중 에이전트 방식으로 조사 과정을 자동화하고 증거를 수집하며, 별도의 검토 에이전트를 통해 결과를 재검증해 오탐을 줄인다. ‘스렛 헌터’는 분석가가 자연어로 조사를 시작하면 연관 결과를 스스로 연결하고 알려지지 않은 위협까지 찾아내는 구조다.

이들 기능은 MITRE, 파이브 아이즈 방위 파트너와의 연구를 포함한 DTEX i³ 연구를 기반으로 한다. 회사 측은 초기 도입 조직에서 분석가 1인당 월 40시간 이상을 절감했다고 밝혔다. 반복적인 조사와 검증 업무를 줄여 보안 인력 부족 문제를 완화하려는 흐름과도 맞닿아 있다.

회사 현황과 출시 일정

2000년 설립된 DTEX시스템즈는 2024년 알파벳($GOOGL)의 성장 펀드 캐피털G로부터 5000만달러를 유치했다. 원화 기준으로는 약 763억원 규모다. 현재 이 회사는 내부자 리스크 관리, 데이터 손실 방지, 사용자 행위 분석, 사용자 활동 모니터링 기능을 단일 플랫폼으로 통합해 제공하고 있다.

AI 리스크 관리는 현재 비공개 프리뷰 형태로 제공되고 있으며, 정식 확대 출시는 다음 분기로 예정돼 있다. 기업의 생성형 AI 도입이 본격화하는 시점에서 보안 업계 경쟁도 ‘무엇을 했는가’에서 ‘왜 그렇게 했는가’를 해석하는 단계로 옮겨가고 있다는 점을 보여주는 사례로 읽힌다.