아이폰에서 직접 구동 가능한 AI 모델, 애플과 프리즘ML의 새로운 움직임

애플이 인공지능 모델의 메모리 사용량을 크게 줄이면서도 아이폰 같은 기기 안에서 직접 실행할 수 있다는 스타트업 기술을 검토하고 있는 것으로 전해지면서, 생성형 인공지능이 데이터센터 중심에서 스마트폰과 노트북 등 개인 기기로 옮겨갈 가능성에 관심이 커지고 있다.

14일(현지시간) 미국 CNBC에 따르면 미국 캘리포니아공대, 즉 칼텍에서 분사한 스타트업 프리즘ML은 이날 중국 알리바바의 오픈소스 인공지능 모델 큐원의 압축 버전 2종을 무료로 공개했다. 이 회사는 약 54GB 규모이던 모델을 4GB 미만으로 줄여 270억개 파라미터 전체를 아이폰15 이상 기기에서 구동할 수 있게 했다고 밝혔다. 바박 하시비 프리즘ML 최고경영자는 애플을 포함한 여러 기업이 자사 기술을 평가하고 있다며, 아직 초기 단계이지만 논의가 순조롭게 진행되고 있다고 말했다. 이번 기술이 실제 상용화로 이어지면 애플의 음성비서 시리를 더 빠르게 작동시키고, 이용자 정보에 맞춘 개인화 기능을 강화하는 데 도움이 될 수 있다는 평가가 나온다.

프리즘ML이 내세우는 핵심은 인공지능 모델 내부의 수치를 단순화해 메모리 점유를 낮추는 방식이다. 회사 설명에 따르면 기존 16비트 기반 값을 1∼3개 값 수준으로 줄여 메모리 사용량은 10∼15배, 응답 속도는 6∼8배, 에너지 효율은 3∼6배 개선할 수 있다. 쉽게 말해 지금까지는 서버나 고성능 반도체 여러 개가 있어야 돌릴 수 있던 모델을 훨씬 가벼운 형태로 바꿔 스마트폰이나 노트북에서도 처리할 수 있게 한다는 뜻이다. 다만 압축 비율이 높아질수록 사실 기억력 같은 일부 성능은 떨어질 수 있다고 회사도 인정했다. 성능과 경량화 사이에서 어느 정도 타협이 불가피하다는 의미다.

이 기술이 주목받는 또 다른 이유는 반도체 수요 구조를 바꿀 수 있다는 전망 때문이다. 인공지능 서비스는 지금까지 대체로 데이터센터 안에서 그래픽처리장치, 즉 GPU와 고대역폭메모리(HBM) 같은 고성능 반도체에 의존해 왔다. 그런데 모델이 작아지면 같은 작업을 처리하는 데 필요한 메모리와 연산량 자체가 줄어들 수 있다. 이 경우 최근 급증한 HBM 중심 수요가 예상보다 약해질 수 있다는 관측도 나온다. 다만 반론도 적지 않다. D.A.데이비드슨의 길 루리아 애널리스트는 모델이 작아진다고 해서 칩이 필요 없어지는 것은 아니며, 수요가 데이터센터에서 개별 기기로 옮겨가는 것에 가깝다고 진단했다. 오히려 기기별로 인공지능을 돌리면 유휴 시간이 많아져 공유형 데이터센터보다 효율이 떨어질 수 있다는 지적도 함께 제기된다.

시장은 이미 비슷한 이슈에 민감하게 반응한 경험이 있다. 지난 3월 구글이 모델 성능을 유지하면서 메모리 사용량을 줄이는 터보퀀트 논문을 발표했을 때 마이크론 주가는 급락했다가 곧 회복했다. 기술 발표 자체와 실제 수요 변화 사이에는 시차와 검증 과정이 있다는 뜻이다. 카운터포인트리서치의 타룬 파탁 연구소장은 수백만건의 질의와 다양한 기기 조합에서 안정적으로 작동하는지 확인하는 절차가 중요하다고 짚었고, IDC의 필 솔리스는 메모리를 아껴도 기기에서 상시 인공지능을 돌릴 경우 배터리 소모가 새 변수로 떠오를 수 있다고 설명했다. 프리즘ML의 압축 모델은 아이폰, 맥북, 엔비디아 기반 PC 등에서 구동되도록 설계됐고, 관련 특허는 칼텍이 보유한 뒤 프리즘ML에 독점 사용권을 준 상태다. 회사는 앞으로 구글의 오픈소스 모델 젬마와 더 큰 프런티어 모델에도 기술을 확대할 계획이며, 지난 3월 코슬라벤처스 등으로부터 1천625만달러, 약 243억원의 투자를 유치했다. 이번 공개가 애플의 시리 전면 개편을 담은 iOS 27 퍼블릭 베타 공개 다음 날 이뤄졌다는 점까지 감안하면, 이 같은 흐름은 앞으로 인공지능 경쟁의 무게중심이 서버 증설에서 기기 내 실행 기술로 일부 이동할 가능성을 보여주는 신호로 해석될 수 있다.