클라우드플레어, 그림자 AI 차단 위한 '애플리케이션 신뢰도 점수' 공개

클라우드 보안 기업 클라우드플레어(Cloudflare)가 AI 보안 리스크에 대한 새로운 접근 방식으로 시장의 주목을 받고 있다. 최근 이 회사는 기업들이 외부 생성형 AI 및 SaaS 애플리케이션의 안정성과 신뢰도를 평가할 수 있도록 돕는 ‘애플리케이션 신뢰도 점수(Application Confidence Scores)’ 기능을 발표했다. 이 기능은 클라우드플레어의 AI 보안 태세 관리(APSM, AI Security Posture Management) 도구 중 하나로, 급격히 확산되고 있는 그림자 AI(Shadow AI)의 위험을 줄이는 것을 목표로 한다.

기존에는 기업 내에서 승인되지 않은 생성형 AI 도구 사용이 기밀 정보 유출 및 데이터 프라이버시 위협으로 이어질 수 있다는 점에서, IT 부서가 이를 일률적으로 차단하는 방식이 일반적이었다. 하지만 클라우드플레어는 이 같은 방식이 혁신을 저해하거나 사용자들이 비공식적으로 기술을 활용하게 만들 수 있다고 지적한다. 이를 대신해, 공공 문서를 기반으로 한 투명한 기준을 도입해 솔루션마다의 보안성과 신뢰도를 평가할 수 있도록 했다.

신뢰도 점수는 개인정보처리방침, 컴플라이언스 인증서, 보안 프레임워크, AI 모델 설명서 등 공개 문서를 AI와 전문가의 검토를 거쳐 분석하는 방식으로 도출된다. 점수는 1점부터 5점까지의 등급으로 제공되며, 각 솔루션이 기업 보안 수준에 부합하는지 여부를 한눈에 확인할 수 있다. 벤더 측은 추가 문서를 제출해 점수를 재평가받을 수 있다.

이 새로운 지표는 일반 SaaS 도구의 성숙도 평가는 물론, ISO 42001 인증 여부, 보안 모델, 사용자 프롬프트 사용 정책 등 AI 특유의 위험 요소까지 확인할 수 있다. 예컨대, 챗GPT 엔터프라이즈 버전은 사용자 입력을 학습에 활용하지 않고, 데이터 보호 기능이 강화돼 소비자용 제품보다 높은 점수를 받았으며, 앤트로픽(Anthropic)의 기업용 AI 역시 탁월한 평가를 받았다.

클라우드플레어는 해당 점수를 자사 대시보드 내 애플리케이션 라이브러리에 무료로 공개할 예정이다. 향후에는 이를 클라우드플레어 게이트웨이 및 액세스 서비스에 통합해 트래픽 차단, 데이터 유출 방지, 브라우저 분리 적용 등 보안 정책 실행 기반으로도 활용할 계획이다. AI 기술 도입이 가속화되는 상황에서 보안과 혁신의 균형점을 찾으려는 시도라는 점에서 주목된다.