AI 팩토리 확산…‘신뢰된 도구’ 악용 공격과 양자암호 전환이 새 보안 과제로

인공지능(AI) 팩토리가 기업의 핵심 인프라로 떠오르면서 AI 인프라 보안이 새로운 경영 과제로 부상하고 있다. 전력, 냉각, 랙 설계부터 데이터 저장 계층까지 전면 재구성이 진행되는 가운데, AI 모델 자체가 새로운 공격 표면을 만든다는 점이 업계의 경계심을 키우는 모습이다.

델 테크놀로지스의 시스템 아키텍처 담당 부사장 겸 펠로우인 무쿤드 카트리(Mukund Khatri)는 최근 ‘델 테크놀로지스와 인텔의 AI 팩토리 보안’ 행사에서 AI 팩토리를 ‘엔드투엔드’ 인프라로 봐야 한다고 강조했다. 그는 대규모언어모델(LLM)이 코드처럼 보이지만 실제로는 민감한 비밀과 모델 가중치를 담은 데이터라고 설명했다. 다시 말해 기존 소프트웨어 보안 방식만으로는 충분하지 않다는 의미다.

카트리는 “AI는 추가적인 위협, 더 새로운 위협을 가져온다”며 “LLM은 코드처럼 보이기 때문에 코드처럼 보호해야 하지만, 본질적으로는 비밀을 담은 데이터이며 모델 가중치 역시 중요한 비밀”이라고 말했다.

‘신뢰된 도구’ 악용하는 새 공격 기법 주목

AI 인프라 보안이 특히 주목받는 배경에는 공격 방식의 변화가 있다. 카트리는 공격자가 정상적인 내부 도구를 악용하는 이른바 ‘리빙 오프 더 랜드(living off the land)’ 기법이 AI 환경에서 더 위협적일 수 있다고 진단했다. 향후 AI 에이전트가 늘어날수록, 이들을 역으로 조직 공격에 활용하려는 시도도 커질 수 있다는 설명이다.

이 때문에 계보 추적, 데이터 출처 확인, 관찰 가능성 같은 기능이 더 이상 선택 사항이 아니라 필수 조건으로 바뀌고 있다. 특히 ‘최소 권한’ 원칙이 핵심으로 꼽힌다. 이는 AI 에이전트가 업무 수행에 필요한 최소한의 접근 권한만 갖도록 제한하는 방식이다. 델은 이런 원칙을 자사 AI 보안 아키텍처에 직접 반영하고 있다고 밝혔다.

카트리는 “배포 환경의 무결성과 모니터링, 관찰 가능성은 에이전트 시대로 갈수록 매우 중요해질 것”이라며 “신원은 지속적으로 모니터링돼야 하고, 에이전트는 최소 권한 모드에서 작동해야 한다”고 말했다.

양자컴퓨터 시대 대비도 ‘발등의 불’

AI 인프라 보안 논의는 여기서 그치지 않는다. 업계는 이미 ‘포스트 양자 암호’ 전환을 다음 과제로 보고 있다. 카트리는 양자컴퓨터가 충분한 성능에 도달하면 현재 대부분 시스템에 내장된 암호화 체계가 무력화될 수 있다고 짚었다. AI 인프라가 갈수록 광범위하게 연결되는 만큼, 암호 전환이 늦어질수록 기업의 노출 위험도 커질 수 있다는 얘기다.

그는 기업들이 지금부터 전환 계획을 세워야 한다고 강조했다. 앞으로 2~3년 동안 새로 도입되는 장비와 소프트웨어가 많아질 텐데, 이 시기를 놓치면 이후 전환 비용과 복잡성이 급격히 커질 수 있기 때문이다. 실제로 포스트 양자 암호 전환은 개별 제품 교체가 아니라 소프트웨어 생태계 전반과 거버넌스 체계를 함께 손봐야 하는 장기 프로젝트에 가깝다.

카트리는 “모든 기업이 이 문제를 인식하기 시작했다”며 “향후 2~3년 동안 고객의 신규 구매가 이어지는 만큼 전환 계획을 들여다봐야 하고, 소프트웨어 생태계 전체가 함께 움직여야 하는 다년간의 복잡하고도 필수적인 거버넌스 변화”라고 말했다.

AI 경쟁력의 핵심은 결국 ‘안전한 인프라’

이번 발언은 기업들의 AI 경쟁이 단순히 모델 성능 경쟁을 넘어, 이를 뒷받침하는 AI 인프라 보안 경쟁으로 확대되고 있음을 보여준다. 검색증강생성(RAG) 같은 기술이 확산하고 데이터 플랫폼이 더 정교해질수록, 보안은 후순위가 아니라 설계 초기부터 반영해야 할 핵심 요인으로 자리잡고 있다.

결국 AI 팩토리의 성패는 더 많은 연산 자원이나 더 큰 모델만으로 결정되지 않을 가능성이 크다. 신뢰할 수 있는 데이터 관리, 최소 권한 통제, 지속적인 모니터링, 그리고 포스트 양자 암호 전환까지 얼마나 체계적으로 준비하느냐가 향후 기업 AI 전략의 경쟁력을 가를 변수로 떠오르고 있다.