블랙덕, AI 리스크 식별 툴 공개… 오픈소스 모델까지 추적 가능

애플리케이션 보안 플랫폼 제공사 블랙덕 소프트웨어(Black Duck Software)가 기업을 위한 새로운 AI 보호 솔루션을 공식 발표했다. 이번에 공개된 ‘AI 모델 리스크 인사이트’는 자사 소프트웨어 구성 분석(SCA) 플랫폼에 새롭게 추가된 기능으로, 기업이 오픈소스 기반의 인공지능 모델에 숨어 있는 위험을 식별하고 이를 투명하게 관리할 수 있도록 돕는다.

AI가 기업 소프트웨어 개발의 핵심 동력으로 자리잡는 가운데, AI 모델이 포함된 코드 및 학습 데이터셋의 출처와 사용 조건을 이해하는 것은 갈수록 중요해지고 있다. 특히 복잡하거나 의도적으로 숨겨진 모델의 경우, 기업 내부 보안팀이 이를 식별해내는 데 한계가 존재했던 것이 현실이다. 블랙덕은 이번 기능이 이러한 니즈를 정조준했다고 설명했다.

주요 기능으로는 ‘AI 모델 식별’과 ‘코드프린트(CodePrint) 스캐닝’이 중심을 이룬다. 코드프린트는 각 코드와 디지털 자산에 고유한 해시와 유사한 서명을 부여하는 기술로, 기업 내부에 있는 선언되지 않은 AI 모델이나 허깅페이스(Hugging Face) 등의 리포지토리에서 가져온 오픈소스 모델도 추적이 가능하다. 이는 단순한 파일 스캔을 넘어, 모호하게 은폐되거나 버전이 수정된 경우에도 정확히 해당 모델을 찾아낼 수 있다는 점에서 강력한 차별점을 지닌다.

동시에, 해당 모델의 라이선스와 메타데이터를 확인할 수 있는 UI 화면도 제공돼, 특정 모델의 이용 조건이나 학습 데이터에 대한 통찰을 확보할 수 있도록 한다. 이를 통해 기업은 프로젝트 요구 사항에 맞는 라이선스 준수 여부를 실시간으로 점검할 수 있으며, 필요한 경우 즉각적으로 조치가 가능하다.

새로운 스캐닝 기능은 블랙덕의 기존 워크플로에 최소한의 설정만으로 통합이 가능하며, 코드프린트 및 BOM(소프트웨어 자재 명세서) 엔진을 활용해 확장성과 유연성도 확보한 상태다. 특히 관심을 모으는 부분은 유럽연합 AI법(EU AI Act), 미국 대통령령 등 각국의 규제 법체계 변화에 따라 적절히 대응할 수 있는 컴플라이언스 체계를 이미 갖췄다는 점이다.

제이슨 슈미트(Jason Schmitt) 블랙덕 최고경영자(CEO)는 “이번 AI 모델 리스크 인사이트는 기업이 AI 통합을 보다 안전하고 책임감 있게 수행할 수 있도록 지원하는 핵심 기술이 될 것”이라며 “보안과 규제 준수를 동시에 만족할 수 있는 강력한 도구로, 블랙덕의 비전을 한 단계 도약시키는 전환점”이라고 강조했다.

이 기능은 블랙덕 SCA 플랫폼 내의 별도 라이선스 기능으로 제공된다. AI 컴포넌트의 비가시성과 복잡도가 빠르게 증가하고 있는 현시점에서, 이와 같은 기술적 진보는 글로벌 기업들에게 실질적인 보호막이 될 전망이다.