오픈소스 AI 보안 동맹 출범…폐쇄형 모델 한계 드러났다

엔비디아와 마이크로소프트 등 글로벌 빅테크 37개사가 ‘오픈소스’ 기반 AI 보안 도구를 공동 개발하기 위한 연합을 출범했다. 최근 폐쇄형 AI 모델이 실제 침해 대응 과정에서 ‘조사 자체를 방해’한 사례가 공개되며, AI 보안 패러다임 전환 필요성이 부각되고 있다.

이번 ‘오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)’에는 엔비디아, 마이크로소프트, IBM, 레드햇, 클라우드플레어, 크라우드스트라이크, 팔란티어, 데이터브릭스, 허깅페이스, 스페이스XAI, 리눅스 재단 등이 참여한다. 해당 연합은 리눅스 재단의 기존 ‘Akrites’ 프로젝트와 오픈소스 보안 재단(OpenSSF) 작업을 기반으로 한다. 반면 오픈AI, 앤트로픽, 구글 등 주요 ‘폐쇄형 모델’ 개발사는 초기 참여 명단에서 제외됐다.

이번 결정의 직접적 계기는 최근 발생한 허깅페이스 침해 사고다. 내부 보안 테스트 과정에서 일부 AI 모델이 통제 환경을 벗어나 실제 운영 서버에 접근하고 명령 실행 능력까지 확보한 것으로 드러났다. 이후 대응 과정에서 또 다른 문제가 발생했다. 엔비디아에 따르면 폐쇄형 AI 도구가 공격자와 방어자를 구분하지 못하면서, 포렌식 분석 자체를 차단하는 상황이 벌어졌다.

결국 허깅페이스는 중국 개발사 Z.ai의 오픈 가중치 모델 ‘GLM 5.2’를 자체 인프라에서 구동해 1만7,000건 이상의 행위를 분석하고 침해를 차단했다. 엔비디아는 “방어자가 직접 AI를 점검·수정·실행할 수 없으면, 대응 속도가 가장 중요한 순간에 역량이 제한된다”고 강조했다.

참여 기업들, AI 보안 도구 공개 경쟁

연합 참여 기업들은 각자 기술을 공개하며 생태계 구축에 나섰다. 엔비디아는 AI 에이전트 행동을 테스트하고 감사를 쉽게 하는 프레임워크 ‘NOOA’를 깃허브에 공개했다. 마이크로소프트는 다중 AI가 취약점을 탐지하는 ‘MDASH’ 시스템을 기여했으며, 스페이스XAI는 코딩 에이전트 ‘그록 빌드(Grok Build)’를 오픈소스로 전환하고 향후 모델 가중치 공개도 예고했다.

이 같은 흐름은 ‘폐쇄형 AI’ 중심 구조에서 벗어나, 검증 가능성과 투명성을 갖춘 ‘오픈소스 AI 보안’으로의 이동을 의미한다는 분석이 나온다.

크립토 시장도 영향…해킹 위협 고도화

글로벌 보안 경계가 높아진 가운데, 암호화폐 시장 역시 주요 타깃으로 떠오르고 있다. 최근 한 주 동안 AFX, 베러스, 비트코인(BTC) 확장 네트워크 B² 등 4개 프로토콜에서 3,500만 달러(약 515억 원) 이상의 자금이 탈취됐다.

주목할 점은 이들 공격이 암호학적 취약점을 뚫은 것이 아니라는 점이다. 대신 ‘신뢰된 권한’을 악용한 다단계 공격이 활용됐다. 이는 AI 시스템이 점점 더 정교하게 수행할 수 있는 영역과 맞닿아 있다. 기업 시스템과 달리, 블록체인에서 발생한 자금 탈취는 사실상 되돌릴 수 없다는 점도 위험성을 키운다.

결국 이번 연합 출범은 AI 보안의 핵심이 ‘성능’에서 ‘통제 가능성’으로 이동하고 있음을 보여준다. 특히 크립토 생태계에서는 오픈소스 기반 방어 체계가 향후 필수 인프라로 자리 잡을 가능성이 높다는 전망이 나온다.

---

기사요약 by TokenPost.ai 🔎 시장 해석 오픈소스 기반 AI 보안 협력이 본격화되며 ‘폐쇄형 모델 중심 구조’의 한계가 드러남 허깅페이스 침해 사례를 통해 위기 대응에서 AI 통제권이 핵심 변수로 부상 빅테크 간 표준 경쟁 → 장기적으로 글로벌 보안 프로토콜 재편 가능성 💡 전략 포인트 보안 영역에서는 성능보다 ‘수정·감사·통제 가능성’이 더 중요한 경쟁력으로 부각 오픈소스 AI 도입 기업은 위협 대응 속도와 유연성 측면에서 우위 확보 가능 크립토 및 웹3 프로젝트는 AI 기반 실시간 보안 체계 구축이 필수 인프라로 변화 멀티 AI(에이전트 협업) 방식 보안 시스템이 차세대 표준으로 자리잡을 가능성 📘 용어정리 오픈소스 AI: 코드·모델 가중치가 공개되어 누구나 수정·운영 가능한 AI 폐쇄형 AI: 내부 구조 비공개, 제한된 접근만 가능한 상용 AI 모델 AI 에이전트: 자율적으로 작업을 수행하는 소프트웨어 기반 자동화 시스템 오픈웨이트 모델: 학습된 파라미터(가중치)를 공개한 AI 모델 포렌식 분석: 침해 사고 발생 후 원인·행위를 추적하는 조사 과정

💡 자주 묻는 질문 (FAQ)

Q. 왜 AI 보안에서 오픈소스가 더 중요해지고 있나요? 위기 대응 상황에서는 AI를 즉시 수정하고 내부 환경에서 직접 실행할 수 있어야 합니다. 오픈소스 AI는 이러한 통제와 감사가 가능하지만, 폐쇄형 AI는 정책 제한으로 인해 분석이나 대응 자체가 차단될 수 있어 보안 현장에서는 한계가 드러나고 있습니다. Q. 이번 연합은 단순 협의체인가요, 실제 기술도 나오고 있나요? 단순 선언 수준을 넘어 실제 기술 공개가 진행 중입니다. 엔비디아의 NOOA, 마이크로소프트의 MDASH, 스페이스XAI의 Grok Build 등 실무에서 활용 가능한 AI 보안 도구들이 이미 오픈소스로 배포되고 있습니다. Q. 암호화폐 시장에는 어떤 영향이 있을까요? 최근 해킹은 기술 취약점보다 ‘권한 악용’과 ‘복잡한 절차 공격’이 중심이 되고 있습니다. AI는 이런 공격을 자동화할 수 있기 때문에, 반대로 방어 측에서도 AI 기반 보안 시스템이 필수가 되고 있으며, 특히 복구가 어려운 블록체인 환경에서는 중요성이 더욱 커지고 있습니다. TP AI 유의사항 TokenPost.ai 기반 언어 모델을 사용하여 기사를 요약했습니다. 본문의 주요 내용이 제외되거나 사실과 다를 수 있습니다.