AI 확산 가로막는 ‘신뢰’…기업 보안·검증 체계가 늦었다

인공지능(AI) 도입이 빨라지고 있지만, 기업 현장에서는 ‘성능’보다 ‘신뢰’가 더 큰 문제로 떠오르고 있다. AI가 내놓는 결과의 정확성을 검증하기 어렵고, 자율적으로 움직이는 AI 에이전트가 늘면서 보안 리스크도 함께 커지고 있기 때문이다.

디지털 신뢰 기업 디지서트는 이런 흐름 속에서 AI 시스템과 콘텐츠의 진위를 확인할 수 있는 ‘지능형 신뢰’ 체계를 전면에 내세우고 있다. 단순한 보안 기능이 아니라, AI를 실제 업무 환경에 안전하게 올리기 위한 핵심 인프라라는 설명이다.

theCUBE리서치의 수석 애널리스트 크리스타 케이스는 “이제 디지털 비즈니스에서 ‘지능형 신뢰’는 선택이 아니라 기반이 되고 있다”며 “정체성, 무결성, 신뢰 신호를 계속 변하는 환경 전반에서 함께 관리할 수 있어야 한다”고 짚었다.

기업들, AI 활용 늘었지만 방어 준비는 부족

시장조사업체 theCUBE리서치에 따르면 이미 70%가 넘는 조직이 AI 기반 보안 도구를 도입했지만, AI가 유발하는 위협에 제대로 대비한 곳은 10% 남짓에 그친다. AI 활용은 빠르게 늘고 있지만, 통제와 검증 체계는 그 속도를 따라가지 못하고 있다는 의미다.

특히 오픈소스 AI 에이전트 ‘오픈클로(OpenClaw)’와 엔비디아($NVDA)의 ‘네모클로(NemoClaw)’ 같은 기술이 등장하면서 기업 보안팀의 긴장감은 더 커졌다. 기업 내부 시스템에서 AI 에이전트가 광범위한 권한을 갖고 움직이거나 외부 인터넷과 직접 연결될 경우, 예상치 못한 사고로 이어질 수 있어서다.

theCUBE리서치의 수석 애널리스트 폴 나샤와티는 “기업들이 AI 실험 단계를 지나 실제 운영 단계로 넘어가면서, 신뢰는 더 이상 이론이 아니라 집행 가능한 기준이 됐다”며 “이제는 모델 검증, AI 에이전트 보호, 콘텐츠 진위 확인을 지속적으로 수행해야 한다”고 말했다.

실제 수치도 경고음을 키운다. 2026년 한 해에만 문서화된 AI 관련 사고는 362건으로 집계됐다. 2024년의 233건보다 크게 늘어난 규모다. AI 역량은 빠르게 고도화되고 있지만, 책임 있는 활용과 거버넌스는 여전히 뒤처지고 있다는 지적이 나온다.

크라우드스트라이크($CRWD)의 조지 커츠 최고경영자(CEO)는 미국 샌프란시스코에서 열린 RSAC 기조연설에서 “기술 업계에서 이런 속도는 본 적이 없다”며 “시속 200마일로 달리는 차 안에서 라디오 채널을 뭘 들을지 싸우는 상황과 같다”고 표현했다.

‘지능형 신뢰’, AI 운영의 필수 인프라로 부상

theCUBE리서치는 2026년까지 규제를 받는 업무의 30%, 비규제 환경의 최대 60%에 AI가 직접 탑재될 것으로 내다봤다. 이미 소프트웨어 기업의 90% 이상이 개발 과정에서 AI를 사용하거나 도입을 검토 중인 것으로 조사됐다.

이 같은 흐름은 ‘지능형 신뢰’가 더는 있으면 좋은 선택지가 아니라는 점을 보여준다. AI가 실제 운영 환경으로 들어올수록, 누가 어떤 모델을 쓰는지, 결과가 조작되지 않았는지, 에이전트가 허용 범위 안에서 행동하는지를 실시간으로 확인해야 하기 때문이다.

디지서트는 이를 위해 새로운 AI 신뢰 프레임워크를 공개했다. 여기에는 AI 에이전트의 신원 인증과 통제를 맡는 ‘AI 에이전트 트러스트’, AI 모델의 암호학적 보호와 검증을 지원하는 ‘AI 모델 트러스트’가 포함된다. 회사 측은 이를 하나의 통합된 신뢰 계층으로 묶어, 조직이 AI 시스템 전반을 일관되게 관리할 수 있도록 하겠다는 구상이다.

디지서트의 아밋 신하 CEO는 “AI는 새로운 신뢰 과제를 만들었다”며 “조직들은 검증이 쉽지 않은 에이전트, 모델, 콘텐츠에 점점 더 의존하고 있다”고 말했다. 이어 “디지서트의 목표는 디지털 상호작용의 보안, 프라이버시, 진정성에 대한 확신을 제공하는 것”이라고 덧붙였다.

규제 강화와 짧아진 인증서 수명도 압박

규제 환경도 기업들을 빠르게 움직이게 하고 있다. 최근 CA/브라우저 포럼은 TLS 인증서의 유효기간을 47일로 줄이는 안에 찬성했다. 인증서 관리 자동화 없이는 대응이 어려운 수준으로, 기업 보안 운영 방식 자체를 바꾸는 계기가 될 수 있다는 평가가 나온다.

크리스타 케이스는 “규제는 조직이 어떻게 신뢰를 증명해야 하는지 기준을 높이고 있다”며 “일회성 규정 준수에서 벗어나, 신원과 데이터 무결성, 시스템 복원력을 지속적으로 검증하는 방향으로 바뀌고 있다”고 설명했다. 보안팀이 단순 지원 부서를 넘어, 신뢰 제공의 운영 책임을 직접 지는 구조로 이동하고 있다는 의미다.

양자컴퓨터 시대 대비도 더는 미룰 수 없어

여기에 ‘포스트 양자암호’ 전환이라는 더 큰 과제도 겹친다. 이른바 ‘Q-데이’가 오면 현재의 공개키 암호체계가 깨질 수 있어, 기업들은 지금부터 보안 체계를 다시 설계해야 한다는 압박을 받는다.

폴 나샤와티는 “포스트 양자암호와 짧아진 인증서 수명이 맞물리면서 운영 방식의 대전환이 불가피해졌다”며 “기업에는 지금 당장 ‘암호 민첩성’이 필요하다”고 강조했다. 암호 민첩성은 새로운 암호 기술이 등장하거나 기존 체계가 취약해질 때, 시스템 전반을 빠르게 바꿀 수 있는 능력을 뜻한다.

최근에는 구글, 마이크로소프트($MSFT), 아마존웹서비스, 엔비디아($NVDA), 시스코($CSCO) 등 주요 빅테크가 잇달아 양자 프로세서 개발 현황을 공개하면서 관련 논의도 한층 빨라졌다. 아밋 신하 CEO는 향후 몇 년 안에 포스트 양자암호가 AI의 ‘챗GPT 순간’과 비슷한 전환점을 맞을 수 있다고 보고 있다.

그는 디지서트의 ‘월드 퀀텀 레디니스 데이’ 행사에서 “대부분의 조직이 이제 행동해야 할 때라는 점을 받아들이는 해가 될 것”이라며 “디지털 신뢰 구조 전반을 ‘양자 안전’하게 업그레이드해야 한다”고 말했다.

핵심은 AI를 믿을 수 있게 만드는 것

시장에서는 이미 변화의 조짐이 나타나고 있다. theCUBE리서치에 따르면 60% 이상의 조직이 AI와 클라우드 네이티브 시스템에서 관측 가능성을 ‘미션 크리티컬’ 인프라로 보고 있다. 시스템이 실제로 어떻게 움직이는지 들여다보고 검증하는 능력이 그만큼 중요해졌다는 뜻이다.

디지서트의 ‘콘텐츠 트러스트 매니저’처럼 C2PA 표준 기반으로 디지털 콘텐츠에 암호 서명과 검증을 적용하는 도구도 주목받고 있다. 생성형 AI 시대에 이미지, 문서, 영상의 출처와 변조 여부를 확인하는 수요가 커지고 있어서다.

결국 AI 시대의 경쟁력은 단순히 더 강한 모델을 만드는 데서 끝나지 않는다. 기업이 AI를 실제 서비스와 업무에 안전하게 연결하려면, ‘지능형 신뢰’를 중심으로 신원 인증, 무결성 검증, 거버넌스, 암호 전환 능력까지 함께 갖춰야 한다. AI 도입 속도가 빨라질수록, 시장의 승부는 ‘얼마나 똑똑한가’보다 ‘얼마나 믿을 수 있는가’에서 갈릴 가능성이 커지고 있다.