데이터브릭스-노마 시큐리티, AI 추론단 보안 위해 '실시간 방어' 통합 전략 제시

기업들이 생성형 AI 기술을 본격 도입하면서, 가장 취약한 지점인 '추론(inference)' 단계에서의 보안 위협이 심화되고 있다. 이를 해결하기 위해 데이터브릭스(Databricks)와 노마 시큐리티(Noma Security)가 손을 잡았다. 양사는 최근 3,200만 달러(약 460억 원) 규모의 시리즈 A 투자를 받은 뒤, 실시간 위협 분석과 추론단 보안 기능을 결합한 통합 보안 솔루션을 기업용 AI 워크플로우에 적용하고 있다.

노마 시큐리티의 니브 브라운(Niv Braun) CEO는 인터뷰에서 “기업들이 AI 확산에 주저하는 주된 이유는 보안 문제”라며 “데이터브릭스와의 협업으로 실시간 위협 감지, 고급 추론단 보호, AI 레드팀 테스트를 통합해 조직이 안전하게 AI 확장을 추진할 수 있게 돕고 있다”고 밝혔다.

문제의 핵심은 기존 사이버 보안이 네트워크 외곽 방어에 초점을 맞춘 반면, AI에 특화된 보안은 아직 체계적으로 갖추지 못했다는 점이다. 데이터브릭스 벤처스의 앤드류 퍼거슨(Andrew Ferguson) 부사장은 “고객사 다수가 추론단 실시간 보안의 필요성을 직접 언급했다”며 “노마는 바로 그 공백을 메우고 있다”고 강조했다.

가트너(Gartner)의 최근 분석도 이를 뒷받침하고 있다. 가트너는 오는 2026년까지 발생할 AI 관련 보안 사고의 80% 이상이 외부 해킹보다 내부 오·남용에서 기인할 것으로 내다봤다. 이에 따라 통합 거버넌스와 실시간 방어 체계를 동시에 갖춘 AI 보안 전략이 필수로 떠오르고 있다.

노마는 특히 생산 전에 잠재적 위협을 식별하는 '프로액티브 레드팀' 테스트를 보안 전략의 핵심으로 내세운다. 공격 시뮬레이션을 통해 모델 깃점 이전 단계에서 취약점을 선제적으로 노출시켜, 런타임 보안을 보다 강력하게 다진다. 브라운 CEO는 “레드팀은 일회성 테스트가 아니라 복합적인 AI 환경 변화에 따라 진화돼야 한다”고 설명했다.

두 기업이 방어하고자 하는 주요 위협은 다양하다. 예컨대 사용자 입력을 조작해 AI 모델 지시를 교란하는 ‘프롬프트 인젝션’, 민감 정보 노출을 유발하는 ‘데이터 유출’, 규정 위반 콘텐츠 생성으로 이어질 수 있는 ‘모델 탈옥’ 등이 대표적이다. 이에 대해 데이터브릭스는 자사 플랫폼인 DASF 2.0과 MLflow를 기반으로 입력 검증 및 모델 거버넌스를, 노마는 다계층 탐지기와 실시간 마스킹 기능 등으로 위협을 차단하고 있다.

또한 데이터브릭스의 '레이크하우스(Lakehouse)' 아키텍처는 기본적으로 거버넌스와 보안을 데이터 생애주기 전반에 통합한다. 이를 통해 기업은 단순한 규제 준수 차원을 넘어, 전사적인 AI 운영 과정 속에 투명성과 보안이 내재화될 수 있도록 한다. 브라운은 “우리는 OWASP, MITRE ATLAS 등 국제 보안 기준에 플랫폼을 맵핑해 EU AI법, ISO 42001 같은 주요 규제를 충족할 수 있도록 돕고 있다”고 말했다.

AI 도입 속도가 가파른 지금, 규모 확장과 보안은 더 이상 분리될 수 없는 영역이다. 데이터브릭스와 노마가 제안하는 실시간 보안 통합 전략은, 보안 우려로 AI 도입을 주저하던 대기업 CISO(최고정보보안책임자)들의 고민을 해소할 구체적인 해답이 될 수 있을 것으로 보인다. 기업들이 이제 AI의 '추론단 악몽(inference nightmare)'에서 벗어나기 위한 실행 가능한 청사진을 마련한 셈이다.