120곳 모인 엔비디아 AI 보안 연합, 개방형 도구 개발

엔비디아($NVDA)가 주도하는 오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance·OSAA) 참여 기업·기관이 출범 일주일여 만에 120곳 안팎으로 늘었다. AI 에이전트를 보안 업무에 활용하면서도 방어자가 직접 검증하고 통제할 수 있는 개방형 도구를 마련하려는 연합이다.

엔비디아는 7월 27일 공식 블로그에서 OSAA 출범을 알리며 “방어자가 신뢰하고 통제할 수 있는 개방형 프런티어 도구를 확보하도록 하는 것”이 목적이라고 밝혔다. 공개 명단에는 어도비(Adobe), 아마존($AMZN), 시스코(Cisco), 클라우드플레어(Cloudflare), 크라우드스트라이크(CrowdStrike), 허깅페이스(Hugging Face), IBM, 인텔(Intel), 리눅스재단(Linux Foundation), 마이크로소프트($MSFT), 네이버(NAVER), 팔란티어(Palantir), 레드햇(Red Hat), SK텔레콤, 비자(Visa) 등이 이름을 올렸다.

OSAA는 리눅스재단의 아크리테스(Akrites) 이니셔티브와 오픈SSF(OpenSSF) 커뮤니티 작업을 토대로 한다. 엔비디아는 AI 보안을 모델 가중치 공개 여부에 한정하지 않고 신원 확인과 권한, 실행 하네스, 가드레일, 로그, 평가 체계를 아우르는 ‘에이전트 스택’ 전체의 문제로 규정했다.

엔비디아는 7월 27일 공식 블로그에서 허깅페이스의 보안 사고 대응 경험을 개방형 AI 도구의 필요성을 보여주는 사례로 제시했다. 허깅페이스는 폐쇄형 AI 도구로 포렌식 분석을 진행하다 일부 요청이 차단되자 자체 인프라에서 오픈웨이트 모델 GLM-5.2를 실행해 1만7000건 이상의 행동을 분석했다. 엔비디아는 이를 보안 담당자가 직접 점검하고 수정·운용할 수 있는 개방형 AI 도구가 필요한 사례로 제시했다.

참여사들은 구체적인 보안 도구도 내놨다. 엔비디아는 AI 에이전트의 행동을 시험·추적·감사하는 NOOA를 공개했고, 마이크로소프트는 취약점을 찾는 다중 모델 스캐닝 하네스 MDASH를 제시했다. 허깅페이스는 모델 가중치 저장 형식 세이프텐서스(Safetensors)를 파이토치재단(PyTorch Foundation)에 제공했으며, IBM과 레드햇은 오픈소스 공급망 보안 도구 라이트웰(Lightwell)을 선보였다.

오픈AI(OpenAI)와 앤트로픽(Anthropic), 구글(Google)은 엔비디아가 공개한 참여 명단에 포함되지 않았다. 와이어드(Wired)는 이를 오픈소스 AI 보안 진영과 폐쇄형 프런티어 모델 기업 사이의 긴장이 드러난 사례로 해석했다. 다만 이들 기업의 불참 이유와 향후 합류 여부는 확인되지 않았다.

OSAA 명단에는 하드웨어 지갑 기업 렛저(Ledger)와 니어 AI(NEAR AI)도 포함됐다. AI 에이전트의 권한 통제와 공급망 취약점 대응은 스마트컨트랙트와 지갑, 거래 인프라 보안에도 적용될 수 있지만 연합이 특정 블록체인 보안 표준이나 암호화폐 사고 대응 체계를 발표한 것은 아니다.

본지는 앞서 OSAA가 AI 보안 사고를 공동 분석·공유하는 SAFE 지침을 제안했다고 보도했다. 연합의 성과는 NOOA와 MDASH, 세이프텐서스, 라이트웰 등 공개 도구가 현장 보안 조직의 사고 분석과 취약점 공개, 권한 통제 절차에 실제로 채택되는지에 달렸다.