구글, 오프라인 AI 시대 연다…‘AI 엣지 갤러리’ 전격 공개

구글이 안드로이드 스마트폰에서 인터넷 연결 없이 첨단 인공지능(AI) 모델을 실행할 수 있는 오픈소스 앱 ‘AI 엣지 갤러리(AI Edge Gallery)’를 조용히 출시했다. 이번 행보는 엣지 컴퓨팅 시대에 접어든 AI 기술의 판도를 바꾸겠다는 구글의 전략적 움직임으로 해석된다.

이 앱은 허깅페이스(Hugging Face) 플랫폼에서 다양한 AI 모델을 다운로드받아 단말기에서 직접 운용할 수 있도록 설계됐다. 이미지 분석, 코드 작성, 텍스트 생성, 다중 대화 등 주요 생성형 AI 기능을 모두 지원하며, 모든 연산은 기기 내에서 처리돼 인터넷에 연결할 필요가 없다. 개인 정보 유출 우려가 커지는 가운데, 구글은 사용자 데이터를 클라우드로 송신하지 않으면서도 고성능 AI 기능을 누릴 수 있는 대안을 제시한 셈이다.

앱은 구글이 자사 깃허브에 오픈소스(Apache 2.0 라이선스) 형태로 등록했으며, 공식 앱스토어가 아닌 사이드로딩 방식으로 설치해야 한다. 설치는 다소 번거롭지만, 그만큼 개발자와 파워 유저를 겨냥한 실험적 성격이 강하다. 핵심 엔진은 기존 텐서플로 라이트(TensorFlow Lite)를 계승한 ‘LiteRT’와 미디어파이프(MediaPipe) 플랫폼이며, JAX, 케라스(Keras), 파이토치(PyTorch), 텐서플로 등 다양한 프레임워크를 지원한다.

특히 눈에 띄는 것은 구글의 경량 언어모델 ‘겜마3(Gemma 3)’다. 이 모델은 529MB 용량에 불과하지만, 모바일 GPU에서 초당 2,500 토큰 이상을 처리할 만큼 빠른 속도를 자랑한다. 이에 따라 텍스트 생성이나 이미지 분석과 같은 작업에서 클라우드 기반 서비스와 유사한 반응성을 구현할 수 있다.

앱에는 ‘AI 챗’(다중 대화), ‘애스크 이미지’(시각적 질문 응답), ‘프롬프트 랩’(텍스트 요약·코드 생성 등 단일 작업) 등의 주요 기능이 탑재돼 있다. 모델 간 성능 비교와 지연 시간, 처리 속도 등의 벤치마크도 실시간 제공돼 사용자 맞춤형 구성이 가능하다.

온디바이스 AI는 단지 기술적 진보에 그치지 않는다. 의료, 금융 등 규제가 강한 분야에서 데이터를 외부로 전송하지 않고도 AI 활용이 가능해지면서, 프라이버시를 넘어 실제 산업적 활용에서도 큰 전환점이 될 수 있다. 오프라인 환경에서도 AI를 활용할 수 있다는 점에서 원격 근무, 장비 진단 등 다양한 현장 중심 업무에서의 수요 증가도 예상된다.

다만, 새 기술은 보안 측면에서 새로운 과제를 던진다. 클라우드 대신 기기에서 데이터를 처리하는 만큼, 앞으로는 디바이스 자체와 모델 무결성을 보호하는 전략이 핵심이 될 전망이다. 오프라인 상태에서의 적대적 공격 가능성, 모델 조작 등 새로운 위협에 대비하기 위한 보안 체계가 필요해진다.

이러한 전략은 애플과 퀄컴의 선행 움직임과도 대조적이다. 애플은 ‘뉴럴 엔진’을 기반으로 아이폰과 맥에 통합된 AI 기능을 강화하고 있고, 퀄컴은 ‘스냅드래곤 AI 엔진’을 통해 음성 인식과 스마트 어시스턴트를 구현해왔다. 반면, 구글은 개별 기능 싸움이 아닌 전체 모바일 AI 생태계를 구성하는 *플랫폼 인프라* 구축에 역량을 집중하고 있다.

이 전략은 장기적으로 ‘AI의 안드로이드’를 구축하겠다는 시도로도 볼 수 있다. 누구나 사용할 수 있는 도구와 프레임워크를 개방형으로 배포함으로써, 차세대 AI 생태계의 주도권을 쥐겠다는 의도다. 모바일 AI가 범용화되는 시점에 인프라를 장악함으로써, 사용자와 개발자 모두를 구글 생태계로 끌어들이겠다는 계산이다.

현재 앱은 설치의 복잡함, 일부 모델의 오답률, 기기별 성능 편차 등 숙제가 남아 있다. 예컨대 픽셀 8 프로급 고사양 장치에서는 원활히 작동하는 반면, 중저가 기기에서는 지연이 발생할 수 있다. 또한 허구의 상황에 대한 부정확한 응답 등 정확도 측면에서도 개선 여지가 존재한다.

그럼에도 불구하고 구글은 이 앱을 통해 클라우드 기반 AI 모델의 종속을 벗어나 모바일 AI의 미래를 재정의하겠다는 메시지를 분명히 하고 있다. 여전히 발전 중인 기술이지만, 구글이 새로운 시대의 인공지능 인프라를 장악할 가능성은 결코 작지 않다.

전통적인 데이터 센터 중심 AI에서 스마트폰 기반 분산 AI로의 전환. AI 엣지 갤러리는 바로 그 전환을 예고하는 조용하지만 의미심장한 첫 걸음이다.