LG유플러스가 자사 인공지능(AI) 통화 요약 앱 ‘익시오’에 새로운 온디바이스 소형언어모델(sLM)을 적용하기로 하면서, AI 기술 상용화에 한 걸음 더 나아갔다. 이 모델은 LG AI연구원과 스타트업 옵트에이아이가 공동 개발한 대규모언어모델(LLM) ‘엑사원 3.5’를 기반으로 만들어졌다.
온디바이스 AI는 말 그대로 AI 모델을 스마트폰 같은 단말기 안에서 직접 작동시키는 기술이다. 기존 대형 언어모델은 서버나 클라우드를 통해 운용되기 때문에 네트워크 속도나 보안 문제에 민감했다. 반면, 온디바이스 기술은 사용자의 데이터를 외부로 전송하지 않기 때문에 보안성이 높고, AI 응답 속도도 훨씬 빨라지는 장점이 있다. 특히 이번에 적용될 소형언어모델은 신경망처리장치(NPU)를 기반으로 구동되어 이를 가능하게 한다.
현재 익시오는 중앙처리장치(CPU)를 기반으로 AI 기능을 제공하고 있지만, 앞으로는 NPU 기반 모델로 바꾸면서 에너지 효율성과 반응성이 크게 개선될 전망이다. LG유플러스에 따르면 이 새로운 모델을 도입하면 동등한 성능을 유지하면서도 전력 소모는 기존 대비 약 78% 감소하고, 모델 크기도 82%가량 줄어들 수 있다. 이는 다양한 스마트폰 기기에서도 고성능 AI 서비스를 안정적으로 제공할 수 있다는 뜻이다.
온디바이스 sLM이 탑재된 익시오 앱은 단순한 통화 요약을 넘어, 한 줄 요약, 키워드 추출, AI가 사용자의 패턴을 분석해 태스크를 제안하는 등 다양한 기능 고도화가 가능해진다. 특히 한국어 특화 성능이 뛰어난 ‘엑사원’ 모델을 활용한 만큼, 통화 내용을 보다 정확하고 자연스럽게 요약·분석할 수 있다는 점에서 경쟁력 강화를 기대할 수 있다.
LG유플러스는 향후 온디바이스 AI 기술을 더욱 정교하게 발전시켜, 이용자 맞춤형 서비스 제공을 위한 ‘초개인화 에이전트’로 확장해 나갈 계획이다. 이러한 기술 흐름은 이동통신업계가 단순한 네트워크 제공자에서 인공지능 기반 서비스를 주도하는 플랫폼 사업자로 진화하는 첨단 전환의 시그널로도 해석될 수 있다.