生成형 AI 보안도 '설계부터'…크라우드스트라이크-엔비디아, 내재형 보안 새 기준 제시

생성형 인공지능(AI)의 채택이 급격히 늘고 있는 가운데 전통적인 보안 체계로는 빠르게 확장되는 AI 인프라의 보안 위협에 대응하기 어려운 상황이 도래하고 있다. 특히 기업 내에서 대규모 언어모델(LLM)을 활용한 AI 기술이 확산되면서, 실시간으로 모델을 보호할 수 있는 내재형 보안 아키텍처의 필요성이 급부상하고 있다. 이에 따라 크라우드스트라이크는 자사의 보안 플랫폼인 ‘팔콘(Falcon) 클라우드 시큐리티’를 엔비디아의 AI 인프라에 직접 탑재하며 새로운 AI 보안 패러다임을 제시했다.

크라우드스트라이크와 엔비디아는 양사의 협력을 통해 엔비디아의 범용 LLM 추론 마이크로서비스 플랫폼인 ‘NeMo NIM’에 팔콘 보안 솔루션을 내장했다. 이번 통합으로 크라우드스트라이크는 10만 개 이상의 기업용 LLM 배포 환경에 실시간 보안을 제공할 수 있게 됐다. 실행 중인 AI 모델을 보호하는 데 최적화된 이 구조는 AI 파이프라인에서 위협이 발생하기 전, 혹은 발생 직후에 이를 즉시 차단할 수 있는 것이 특징이다.

보안 업계 관계자들에 따르면, 현재 AI 모델을 타깃으로 한 공격이 전년 대비 218% 증가하며 사이버 위협이 폭발적으로 늘어난 상태다. 실제로 기업의 70% 이상이 지난 1년 동안 AI 관련 보안 침해를 경험했다고 보고된 바 있으며, 특히 생성형 AI는 해커들의 새로운 주요 공격 목표로 떠오르고 있다. 이는 기존 보안 체계가 AI의 복잡한 특성과 빠른 진화 속도를 따라가지 못하고 있는 현실을 반영한다.

크라우드스트라이크의 전략은 단순히 AI 보안 기능을 추가로 붙이는 차원을 넘어, 아예 AI 인프라 설계의 핵심에 보안을 녹여 넣는 것이다. 크라우드스트라이크의 최고경영자 조지 커츠(George Kurtz)는 "보안은 외부에서 추가하는 것이 아니라 설계 단계에서부터 내재화돼야 한다"며, "단일 플랫폼에서 랜섬웨어 대응부터 사이버 첩보 활동 감지까지 모두 아우르는 방식만이 실질적인 AI 보안을 제공할 수 있다"고 강조했다.

기업의 위협 탐지 속도 역시 획기적으로 향상됐다는 평가도 나온다. 크라우드스트라이크는 수 조 건 이상의 일일 데이터 신호에서 실시간 위협을 분석해, 전통적 방식보다 여섯 배 빠르게 공격을 탐지하고 차단할 수 있다고 밝혔다. 이는 공격자들이 LLM을 악용해 데이터를 유출하거나 모델을 오염시키는 ‘프롬프트 주입(prompt injection)’ 등의 공격에 선제적으로 대응할 수 있게 한다.

이러한 내재형 보안 접근 방식은 특히 ‘섀도 AI(Shadow AI)’로 불리는 통제되지 않은 AI 사용에 대한 해결책으로도 주목받고 있다. 기업 내부에서 직원들이 승인받지 않은 AI 모델을 자체적으로 구축, 운영하는 사례가 급증하고 있지만, 보안 관리자들은 이들 모델이 어디서 어떻게 활용되고 있는지를 파악조차 못하는 경우가 많다. 크라우드스트라이크는 팔콘을 통해 이러한 숨은 위험 요소를 발견하고 정책을 적용함으로써 실질적 보안 통제를 가능하게 만들었다는 입장이다.

이번 협업은 단순한 기능 통합을 넘어서, 규제 대응 측면에서도 기업에 중요한 변화를 제공한다. 팔콘은 유럽연합이 추진 중인 AI법(EU AI Act)에 따른 규제 준수를 자동화하는 기능을 포함하고 있어, 기업이 별도의 인력이나 리소스 없이도 규정에 따른 모델 투명성, 추적성, 감사를 수행할 수 있도록 지원한다.

결과적으로 이번 통합은 보안 관점에서 생성형 AI 기술이 직면한 구조적 문제를 실질적으로 해결할 수 있는 하나의 전환점을 의미한다. 개발 단계에서부터 실행에 이르기까지 전 주기적 통합 보안을 실현한 크라우드스트라이크의 전략은, AI를 본격적으로 도입하려는 기업들에게 신뢰할 수 있는 보안 기반을 마련해준다.

AI 기술이 단순한 도구를 넘어 기업 운영 전반의 근간으로 자리잡아가고 있는 지금, 시큐리티 퍼스트(Security-First) 전략은 더 이상 선택이 아닌 필수다. 크라우드스트라이크와 엔비디아의 협업은 단순히 AI를 보호하는 수준을 넘어, AI가 실질적으로 운영될 수 있도록 만드는 새로운 기준을 제시하고 있다. 이는 AI 시대의 보안이 추후 어떻게 진화할 것인지를 보여주는 분명한 이정표가 될 전망이다.