구글에서 선호하는 출처로 추가
애플·메타, 맥 스튜디오 2~4대서 AI 모델 실행 협력
이준한 기자
애플과 메타가 메타의 뮤즈 스파크 오픈을 여러 대의 맥 스튜디오에서 실행하기 쉽게 만드는 데 협력했다는 보도가 나왔다. 애플은 앞서 맥 스튜디오 네 대를 연결한 분산 추론 성능이 단일 시스템보다 최대 3배 빠를 수 있다고 제시했다.
토포AI로 이 기사 더 깊이 읽기
애플과 메타가 메타의 AI 모델 뮤즈 스파크 오픈을 여러 대의 맥 스튜디오에서 실행하기 쉽게 만드는 데 협력했다는 보도가 나왔다. 개발자가 클라우드 대신 보유한 기기에서 모델을 구동하는 구성이지만, 애플이 앞서 제시한 분산 추론 성능 수치가 이 모델에서 재현된 것은 아니다.
CNBC는 양사가 맥 스튜디오 2~4대를 연결해 모델을 실행하는 작업에 협력했다고 15일(현지시간) 보도했다. 코딩과 영상 분석, 에이전트 작업 등이 활용 사례로 거론됐다.
맥 스튜디오 여러 대를 연결하는 기능은 애플이 앞서 공개했다. 애플은 8월 발표에서 썬더볼트 5와 RDMA를 활용해 여러 시스템에 AI 추론 작업을 나눠 처리할 수 있다고 밝혔다. 네 대를 연결한 시스템은 단일 시스템보다 분산 AI 추론에서 최대 3배 빠를 수 있다고 제시했다.
이 최대 3배 수치는 애플의 하드웨어 기능 설명이다. 뮤즈 스파크 오픈을 실행해 측정한 성능 결과로 볼 수는 없다.
로컬 실행은 모델 추론을 이용자 측 하드웨어에서 처리하는 방식이다. 애플은 자사 실리콘에 맞춘 머신러닝 프레임워크 MLX를 제공하며, 맥에서 모델을 실행하고 여러 시스템에 작업을 분산할 수 있다고 설명해왔다.
자체 장비에서 모델을 돌리면 클라우드로 보내는 데이터와 반복 추론 비용을 줄일 여지가 있다. 다만 이번 협력으로 데이터 전송이나 비용이 실제 얼마나 줄어드는지는 제시되지 않았다.
도입 비용과 성능은 장비 구성에 따라 달라질 수 있다. CNBC 보도는 여러 대의 고급 맥 스튜디오를 쓰는 구성을 다뤘지만, 필요한 메모리와 구체적인 장비 비용, 처리 속도, 전력 소비를 비교한 독립 시험 결과는 제시하지 않았다.
모델 이름에 붙은 ‘오픈’의 범위도 따져야 한다. 메타는 4월 뮤즈 스파크를 발표하면서 일부 파트너에게 API 비공개 프리뷰를 제공하고, 향후 모델을 오픈소스화하기를 바란다고 밝혔다. 이 발표만으로 이번 보도에 나온 뮤즈 스파크 오픈의 가중치 공개 여부나 시점을 확인할 수는 없다.
오픈웨이트는 학습된 가중치를 내려받아 자체 하드웨어에서 실행할 수 있는 모델을 가리킨다. 가중치 공개와 상업적 이용 허용 범위는 별개이며, 이번 모델의 라이선스 조건은 보도 내용만으로 확인되지 않았다.
메타 모델과 애플의 실행 환경이 연결되는 이번 협력의 세부 지원 조건과 상용화 일정은 공개되지 않았다. 모델의 실제 활용 범위는 가중치와 라이선스, 성능 자료가 공개된 뒤 판단할 수 있다.
메타가 장시간 작업과 기억 기능을 앞세워 공개한 모델 사례는 앞선 뮤즈 모델 발표에서도 확인됐다.
댓글 0
불러오는 중…