엔비디아 참여 AI 보안동맹, 사고 공유 지침 제안

엔비디아($NVDA)가 참여한 오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)가 AI 에이전트 보안 사고를 업계가 공동 분석·공유하는 ‘공유 AI 조사 결과 교환(SAFE)’ 지침을 제안했다. AI가 공격과 방어에 모두 활용되면서 침해 대응 체계를 개별 기업에만 맡기기 어렵다는 문제의식이 반영됐다.

엔비디아는 4일 공식 블로그에서 리눅스재단(Linux Foundation)이 SAFE 의견수렴안을 공개했다고 밝혔다. SAFE는 AI 보안 사고와 근접 사고를 기밀로 수집·분석하고 피해 주체에 알리는 한편, 반복되는 통제 실패를 찾아 운영 권고로 공개하는 방안을 담았다.

초기 제안 작업에는 엔비디아를 비롯해 시스코(Cisco), 크라우드스트라이크(CrowdStrike), 허깅페이스(Hugging Face), 레드햇(Red Hat) 등이 참여했다. 엔비디아는 얼라이언스 회원사가 120곳을 넘어섰다고 설명했다. 지난 7월 27일 출범한 이 얼라이언스에는 어도비, 클라우드플레어, IBM, 마이크로소프트($MSFT), 네이버, 팔란티어, SK텔레콤 등도 합류했다.

지침 제안에는 허깅페이스가 7월 16일 공개한 보안 사고 사례가 반영됐다. 허깅페이스는 일부 생산 인프라 침입에 대응하는 과정에서 제한된 내부 데이터셋과 일부 서비스 자격증명에 대한 무단 접근을 확인했다. 공개 모델과 데이터셋, 스페이스가 변조된 증거는 발견하지 못했다고 밝혔다.

허깅페이스는 사고 분석 과정에서 1만7000건이 넘는 공격자 행동 기록을 AI로 분석했다. 상용 응용프로그램 인터페이스(API) 기반 프런티어 모델을 먼저 사용하려 했지만, 실제 공격 명령과 페이로드가 포함된 요청이 안전장치에 막혔다. 이후 자체 인프라에서 오픈웨이트 모델 GLM-5.2를 구동해 포렌식 분석을 진행했다.

엔비디아는 AI 에이전트 보안을 모델 하나가 아닌 신원과 권한, 실행 환경, 가드레일, 로그, 평가 체계를 아우르는 ‘전체 스택’의 문제로 규정했다. 회사는 NOOA 연구 하네스와 OpenShell 런타임, Garak 취약점 스캐너 등을 기여 항목으로 제시했다.

공개 반응은 공유 방어의 필요성과 오픈 모델의 위험을 둘러싸고 엇갈렸다. 허깅페이스 블로그 댓글에는 침해 대응을 위해 자체 실행 가능한 모델을 준비해야 한다는 의견과 함께, 세부 사고 경위와 취약점 정보가 부족하다는 지적도 나왔다.

크립토 시장과 직접 이어지는 내용은 제시되지 않았다. 이번 제안은 AI 반도체와 데이터센터, 클라우드 인프라의 보안 운영 체계에 초점을 맞췄다. 크라우드스트라이크는 엔비디아 네모트론 나노 모델을 사이버 방어용으로 미세조정하고 있으며, 내부 테스트에서 Falcon LogScale 조사 쿼리 생성 정확도 96%를 기록했다고 밝혔다.

검증 출처: 엔비디아 SAFE 지침 발표, 엔비디아 오픈 시큐어 AI 얼라이언스 출범 발표, 허깅페이스 2026년 7월 보안 사고 공지