소프트웨어 공급망 보안 분야의 선도 기업 제이프로그(JFrog)가 새로운 AI 거버넌스 기능인 ‘섀도 AI 탐지(Shadow AI Detection)’를 공개하며 기업의 인공지능 활용에 대한 통제를 한층 강화했다. 이번 기능은 유럽에서 열린 제이프로그 정기 컨퍼런스 ‘swampUP Europe’에서 공식 발표됐다.

섀도 AI는 조직 승인 없이 개발자나 데이터 과학자가 적극 도입하는 외부 AI 모델과 API를 의미한다. 이러한 무단 AI 활용은 법적 규제 위반, 데이터 유출, 그리고 공급망 공격 등의 치명적인 보안 위협을 초래할 수 있다는 점에서 기업들의 고민거리였다. 제이프로그는 그 해법으로 섀도 AI의 실시간 탐지 및 자산 현황 파악 기능을 제공하는 이 서비스를 도입했다.

특히 이번 기능은 오픈AI(OpenAI), 안트로픽(Anthropic), 구글(GOOG) 등의 외부 플랫폼을 통해 연동된 모델과 API 사용 내역을 자동으로 분석해 조직 전체의 AI 자산을 중앙 집중식으로 모니터링하고 통제할 수 있도록 설계됐다. 이를 통해 기업은 사전에 승인된 방식으로만 AI 서비스를 활용하게 하고, 모든 상호작용을 감시 및 감사할 수 있는 구조를 구현하게 된다.

또한 섀도 AI 탐지는 단순 탐지를 넘어, 적법한 사용자들이 외부 AI 서비스를 사용할 수 있는 ‘정의된 접근 경로’를 설정하여 무분별한 도입을 체계화하고, 보안과 거버넌스를 동시에 충족하는 AI 도입을 가능하게 한다는 평가다.

유발 펀바흐(Yuval Fernbach) 제이프로그 머신러닝 사업부 부사장은 “AI가 코딩 현장과 제품 개발 과정에 전방위적으로 스며들고 있는 만큼, 기업은 ‘보안이 내장된 개발 흐름’을 만드는 것이 필수”라며, “섀도 AI 탐지는 AI 공급망의 책임 있는 운영을 위한 핵심 기능이 될 것”이라고 강조했다.

AI가 빠르게 확산되며 도입 속도는 빨라졌지만, 그에 따른 보안 및 책임 문제가 새로운 리스크로 떠오르고 있다. 제이프로그의 이번 조치는 AI 시대의 ‘보이지 않는 위협’에 대응하는 해법으로, 기업 IT 생태계의 건전성과 지속가능성을 추구하는 움직임의 일환으로 볼 수 있다.