생성형 AI 기술이 빠르게 확산되는 가운데, 보안 스타트업 판게아(Pangea)가 이와 관련된 보안 취약점을 정조준한 새로운 대응 플랫폼을 선보였다. 판게아는 7월 31일 'AIDR(AI 탐지 및 대응)' 서비스를 조기 출시하며, 조직 내 생성형 AI 사용 전반을 실시간으로 감시하고 보호할 수 있는 기술을 제공한다고 밝혔다.
'AIDR'은 직원 및 개발자가 사용하는 생성형 AI 도구부터 자체 개발한 AI 애플리케이션, 기업 내부의 AI 생산 시스템까지 포괄하는 보안 플랫폼이다. 판게아 측은 기존 보안 체계가 간접적인 프롬프트 주입, 과도한 AI 자율성 등 새로운 위협은 감지하지 못하는 경우가 많다고 지적했다. 이에 따라 AIDR 플랫폼은 보안 주체가 사후 대응 중심의 거버넌스에서 벗어나, 사전 대응 체계로 전환할 수 있도록 지원한다고 강조했다.
올리버 프리드릭스(Oliver Friedrichs) 판게아 최고경영자(CEO)는 “생성형 AI는 역사상 가장 빠른 속도로 확산 중이지만, 동시에 가장 큰 보안 취약 지점으로 부상하고 있다”며 “AIDR은 기존 보안 워크플로우에 자연스럽게 통합될 수 있도록 설계돼 있으며, AI 공격 표면 전반에 대응하는 판게아의 혁신적 제품군 중 하나”라고 설명했다.
AIDR의 핵심은 판게아의 'AI 가드(AI Guard)' 기술이다. 다양한 포맷에 맞춰 배포 가능한 AI 센서를 통해 트래픽 정보를 수집한 뒤 이를 통합된 정책 제어 및 위협 탐지 엔진으로 전송하고, 여기서 분석된 내용을 맞춤형 알림과 자동 대응으로 이어지게 한다. 이를 통해 사용자는 브라우저, 클라우드 인프라, API 게이트웨이 등에서 AI 도구가 사용되는 방식과 시점까지 확인할 수 있다.
또한 이 플랫폼은 LLM(대형 언어모델), 에이전트 기반 애플리케이션, 그림자 AI 도구, 개발 환경 전반에 일관된 데이터 접근 정책을 적용할 수 있도록 해준다. 특히 '프롬프트 인젝션', AI 도구 우회(jailbreak), 민감 데이터 누출과 같은 복잡한 위협도 탐지하고 차단할 수 있다.
조기 배포 버전에서는 크롬 브라우저 감시 기능, 개발자용 프레임워크를 통한 LLM 에이전트 보호, 아마존웹서비스(AWS) 기반 AI 활동 확인을 위한 로그 분석, Kong 및 LiteLLM 같은 API 게이트웨이 보호 기능도 포함된다. 또한 OpenTelemetry 로그 형식을 수용해 클라우드 네이티브 환경에서의 가시성을 높이고, 판게아 SDK 통합을 통해 애플리케이션 레벨에서도 보안을 강화할 수 있다.
일반 사용자 대상 정식 출시는 9월 1일로 예정돼 있으며, 향후 3분기 중에는 깃허브 코파일럿(GitHub Copilot), 마이크로소프트 엣지(Microsoft Edge) 등 다양한 AI 접점에 대한 추가 지원도 제공된다.
이처럼 판게아는 생성형 AI 보안을 위한 엔터프라이즈 전용 솔루션을 선제적으로 선보이며 관련 시장에서 입지를 확대하려는 전략을 본격화하고 있다. AI 확산을 둘러싼 신뢰와 통제 이슈가 더욱 부각되는 상황에서 AIDR이 기업 보안 문화를 어떻게 바꿔놓을 수 있을지 주목된다.