AI, 손안으로 들어오다… ARM이 주도하는 '이기종 컴퓨팅' 혁명

AI 기술이 점점 더 일상 속 기기로 확장되는 가운데, 이 변화를 이끄는 핵심 기술로 ‘이기종 컴퓨팅(Heterogeneous Computing)’이 부상하고 있다. 각기 다른 성능과 기능을 가진 CPU, GPU, NPU 등이 하나의 시스템 내에서 유기적으로 협력하면서 성능 최적화와 에너지 효율을 동시에 실현한다는 개념이다. CES 2026 행사에 참석한 크리스 버지(Chris Bergey) ARM 엣지 AI 사업부 수석부사장은 “지금은 AI가 데이터센터를 떠나 사용자 손에 쥔 기기로 이동하는 전환기”라며 이 같은 기술이 일상에서 체감 가능한 차별화를 만든다고 강조했다.

ARM은 NVIDIA와의 강력한 협업을 바탕으로 스마트폰, 웨어러블 등 각종 엣지 디바이스에서의 AI 구동을 현실화하고 있다. 버지는 “Arm CPU, GPU, NPU를 모두 포함한 스마트폰이 그 대표적인 사례”라며, “이기종 컴퓨팅 덕분에 사용자는 더 빠르고, 더 똑똑하며, 배터리도 오래 가는 AI 기기의 경험을 누릴 수 있다”고 설명했다. 특히, 기능별로 최적화된 컴퓨팅 유닛을 활용함으로써 모든 연산을 하나의 프로세서에 의존했던 기존 구조의 한계를 뛰어넘을 수 있다고 진단했다.

이러한 아키텍처 혁신은 고성능을 요구하는 AI 연산뿐 아니라 개발자들의 소프트웨어 설계 패러다임도 근본적으로 바꾸고 있다. 버지에 따르면 “GPU나 NPU를 효과적으로 활용하기 위한 프로그래밍 기술이 관건이며, 이 부분에 ARM은 많은 역량을 투입하고 있다”고 언급했다. 기존에는 사후적으로 AI 기능을 추가하던 접근에서 벗어나, 초기 설계 단계부터 AI가 기본 요소로 작동하는 엔지니어링이 보편화되고 있다는 설명이다.

한편, 웨어러블 기기는 이기종 컴퓨팅과 AI 결합의 성능을 시험할 새로운 무대로 주목받고 있다. 센서 기반의 신체 밀착형 장비가 개인화된 데이터를 실시간으로 처리하며, 동시에 프라이버시와 반응성이 강점으로 부각되고 있다. 버지는 “웨어러블은 단순한 주변장치가 아니라 AI가 직접 몸 위에서 작동하는 플랫폼으로 진화하고 있다”며, “이는 건강관리, 안전성, 삶의 질 향상까지 그 영향력을 확장시킨다”고 말했다.

그렇다고 기술 발전만으로 모든 것이 해결되는 것은 아니다. 그는 “진정한 AI 기기는 고성능만큼이나 완전한 신뢰성과 보안성을 갖춰야 한다”며, 아키텍처 수준에서 보안 기능이 내장되어야 한다고 강조한다. 특히 엣지 AI가 민감 정보를 다루게 되면서 신뢰 기반 설계(trust-by-design)의 중요성이 높아지고 있다.

AI 시대의 주도권이 데이터센터 중심에서 사용자 중심으로 이동하는 이 전환의 중심에는 이기종 컴퓨팅이 있다. ARM은 이 기회를 활용해 새로운 하드웨어 설계, 개발자 경험, 소비자 제품 전반에 걸쳐 생태계의 판을 바꾸고 있다. AI가 더 똑똑해지고, 더 가까워지고, 더 안전해지기 위한 기술적 토대가 지금 현실로 구현되고 있는 것이다.