온프레미스 AI 확산…보안 출발점 ‘하드웨어 신뢰’로 옮겨가나

기업들의 온프레미스 AI 도입이 빨라지면서 AI 팩토리 보안의 출발점이 소프트웨어가 아닌 ‘하드웨어’라는 점이 다시 부각되고 있다. 에이전틱 AI 확산으로 데이터 처리 경로가 길어지고 복잡해지자, 기업들은 서버와 칩 단계에서부터 신뢰를 확보해야 한다는 압박을 더 크게 받는 모습이다.

인텔의 플랫폼 보안·무결성 부문 사업 책임자인 마이크 페론-존스는 최근 실리콘앵글 미디어의 더큐브 인터뷰에서 “CPU는 전체 보안 스택의 근본적인 하드웨어 신뢰 기반”이라며 “어떤 CPU를 선택하느냐가 사실상 기업의 첫 번째 보안 결정”이라고 말했다. 이 같은 논의는 이달 말 열리는 델 테크놀로지스($DELL) 연례 행사에서도 핵심 의제로 다뤄질 전망이다.

AI 시스템 전반에서 CPU 역할 커져

페론-존스는 AI 시스템이 단순히 GPU에서 이뤄지는 학습이나 추론만으로 설명되지 않는다고 짚었다. 데이터 수집과 정제, 저장, 학습, 추론, 결과 처리 등 여러 단계가 모두 연결돼 있으며, 이 과정 상당 부분이 CPU와 GPU의 협업 위에서 돌아간다는 설명이다.

이는 곧 AI 인프라 보안이 특정 가속기 한 종류만 보호해서 해결되는 문제가 아니라는 뜻이다. 실제로 인텔은 2026 플랫폼 보안 보고서를 통해 부팅 단계 공격 차단, 기밀 컴퓨팅을 통한 데이터 보호, 하드웨어 기반 소프트웨어 통제, 성능 저하를 최소화한 암호화 가속 등 4개 축을 데이터센터 보안의 핵심 영역으로 제시했다. 소프트웨어 통제가 제대로 작동하려면 그 아래 깔린 실리콘 자체가 먼저 신뢰 가능해야 한다는 주장이다.

기밀 컴퓨팅, 온프레미스 AI 확산의 핵심 기술로

인텔의 전략 중심에는 ‘기밀 컴퓨팅’이 있다. 인텔 소프트웨어 가드 익스텐션과 트러스트 도메인 익스텐션 같은 기술을 통해 하드웨어로 강제된 신뢰 실행 환경을 만들고, 민감한 작업이 어디서 어떤 상태로 실행되는지 암호학적으로 검증하는 방식이다.

이 접근은 특히 규제가 강한 산업군에서 의미가 크다. 금융, 공공, 헬스케어처럼 데이터 주권과 규제 준수가 중요한 분야는 클라우드보다 온프레미스 AI를 선호하는 경향이 있는데, 이 경우 내부 인프라 자체의 신뢰성이 더 중요해진다. 페론-존스는 “데이터는 사용자가 통제하는 암호화 키를 통해서만 기밀 실행 환경 안으로 들어간다”며 “규제 준수, 데이터 주권, 전통적 사이버 보안 측면 모두에서 기업이 직접 열쇠를 쥐는 구조”라고 설명했다.

인텔은 엔비디아($NVDA)와 협력해 GPU 가속 워크로드까지 보호할 수 있는 기밀 AI 참조 아키텍처도 마련한 상태다. AI 팩토리 보안이 CPU 영역에만 머무는 것이 아니라, CPU와 GPU가 함께 움직이는 전체 인프라로 확장되고 있다는 의미다.

양자내성암호 전환도 AI 보안의 새 과제로 부상

장기적으로는 ‘양자내성암호’ 전환도 중요한 과제로 꼽힌다. 이는 미래 양자컴퓨터가 현재의 암호 체계를 무력화할 수 있다는 전제 아래, 더 안전한 알고리즘으로 미리 이동하는 작업이다. 델 테크놀로지스의 존 로즈 최고기술책임자도 앞서 올해 초 양자컴퓨팅이 현재 데이터를 보호하는 암호를 결국 깨뜨릴 수 있다고 경고한 바 있다.

페론-존스는 당장 우려할 시나리오로 실시간 양자 공격보다 ‘지금 수집하고 나중에 해독하는’ 방식의 위협을 꼽았다. 공격자가 현재는 풀 수 없는 암호화 데이터를 미리 빼내 보관한 뒤, 향후 양자컴퓨터 성능이 충분해졌을 때 이를 해독하는 방식이다. AI와 에이전틱 AI가 다루는 데이터의 가치가 커질수록 이런 위험도 함께 커질 수밖에 없다.

인텔은 제온 6 프로세서를 시작으로 양자 안전 암호 전환을 진행 중이며, 2029년까지 자사 플랫폼 전반의 암호 연산을 양자내성 기술로 전환한다는 계획이다. 페론-존스는 AES-256 같은 양자 안전 수준의 저장 데이터 암호화를 지금부터 적용하면, 미래의 ‘수집 후 해독’ 위협에 선제적으로 대응할 수 있다고 강조했다. 또 현재 제온 CPU에는 이런 고도화된 암호 연산을 가속하는 명령어가 포함돼 있어 성능 부담도 줄일 수 있다고 덧붙였다.

AI 팩토리 보안, 인프라 투자 판단 기준 될 가능성

이번 논의는 AI 경쟁이 모델 성능 중심에서 인프라 신뢰성과 데이터 보호 능력으로 확대되고 있음을 보여준다. 특히 기업이 자체 데이터센터에서 AI를 직접 운영하려는 흐름이 이어질수록, 서버와 CPU, GPU, 암호화 체계를 포함한 ‘하드웨어 레이어’의 보안 수준이 도입 판단의 핵심 기준으로 자리 잡을 가능성이 크다.

결국 AI 팩토리 보안은 단순한 기술 옵션이 아니라, 기업이 민감한 데이터를 안전하게 활용하며 AI를 확장할 수 있는지 가르는 기반 조건으로 평가된다. 업계의 관심이 소프트웨어 방어선 너머 실리콘 단계의 신뢰 확보로 옮겨가는 이유도 여기에 있다.