구글이 엣지 AI 환경을 겨냥한 특화 모델 'FunctionGemma'를 공개했다. 이는 기존 Gemma 3 270M 모델을 개선한 버전으로, 함수 호출 시나리오에 초점을 맞춰 설계됐다. 구글은 해당 모델이 로컬 또는 오프라인 상담원 환경에서 활용될 수 있도록 최적화되었으며, NVIDIA Jetson Nano와 일부 휴대폰 등 엣지 디바이스에서도 안정적으로 작동한다고 설명했다.
FunctionGemma는 통합 채팅 및 도구 실행을 지원하며, 사용자 지정 미세 조정 기능을 통해 모바일 액션 정확도가 58%에서 85%로 크게 향상됐다. 또한 JSON 형식 입력과 다국어 입력 최적화 기능도 강화됐다.
해당 모델은 Hugging Face와 Kaggle을 통해 다운로드할 수 있으며, Transformers, Unsloth, Keras, NeMo 등 다양한 프레임워크용 미세 조정 가이드도 함께 제공된다. 또 LiteRT-LM, vLLM, MLX, Llama.cpp, Ollama, Vertex AI, LM Studio용 배포 가이드도 마련됐다. 사용자는 Edge Gallery에서 다양한 데모와 데이터셋, Colab 예제를 활용할 수 있다.
<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>