테더 AI 리서치 그룹이 스마트폰과 웨어러블 등 저사양 기기에서 클라우드 서버 없이 직접 구동할 수 있는 의료 인공지능 모델 'QVAC MedPsy'를 공개했다고 Odaily가 보도했다.
테더에 따르면 17억개 매개변수 버전은 7개 폐쇄형 의료 벤치마크 테스트에서 평균 62.62점을 기록해 구글의 MedGemma-1.5-4B-it보다 11.42점 높았다. 또 실제 임상 평가인 HealthBench Hard에서는 매개변수 규모가 약 16배에 달하는 MedGemma 27B를 웃돌았다고 설명했다.
40억개 매개변수 버전의 평균 점수는 70.54로, 여러 의료 추론 평가에서 더 큰 대형 모델을 앞섰다고 테더는 전했다. 회사는 후속 의료 추론 최적화와 강화학습, 고품질 의료 데이터 학습을 통해 소형 모델의 성능을 끌어올렸다고 밝혔다.
테더는 이 모델이 기존 클라우드 기반 AI보다 추론 비용도 낮췄다고 주장했다. 40억개 매개변수 버전의 평균 생성 토큰 수는 약 909개로, 비교 대상 시스템의 2953개보다 적어 지연 시간과 연산 비용을 줄일 수 있다는 설명이다.
아울러 GGUF 양자화 버전도 함께 제공해 모바일 기기와 엣지 디바이스에 로컬 배포할 수 있도록 지원한다. 파올로 아르도이노는 이번 모델의 핵심 목표가 매개변수 확대가 아니라 효율성 개선이라며 병원 내부 시스템이나 단말기에서 직접 의료 AI를 구동해 민감한 의료 데이터를 클라우드에 올리지 않도록 하는 데 있다고 밝혔다.
