애플($AAPL)이 애플 칩 탑재 맥에서 공개 가중치 AI 모델을 실행·관리하고, 썬더볼트 5로 여러 맥을 연결하는 앱 Harbor를 개발 중인 것으로 전해졌다.
9to5Mac은 제보자가 공개한 앱 설명을 토대로 Harbor가 맥을 개인용 AI 추론 서버로 바꾸는 기능을 제공한다고 보도했다. 앱에서 모델을 찾아 내려받고 실행·관리할 수 있다는 내용이다. 9to5Mac 보도
앱 설명에는 입력 데이터를 클라우드로 보내지 않고 맥에서 처리한다는 내용도 담겼다. 모델 실행에 필요한 작업을 기기 안에서 수행하는 방식이다.
공개 가중치 모델은 학습된 매개변수가 공개돼 이용자가 내려받아 실행할 수 있는 AI 모델을 뜻한다. Harbor 보도에서 다룬 기능은 이런 모델을 맥에서 찾아 실행하고 관리하는 데 초점을 둔다.
썬더볼트 5를 지원하는 맥 두 대 이상을 연결하면 앱이 기기를 찾아 작업 클러스터를 구성하고 각 기기의 통합 메모리를 함께 활용하는 것으로 소개됐다. 여러 대의 맥을 하나의 작업 환경으로 묶는 방식이다.
이 구성은 단일 맥의 메모리 용량을 넘는 모델을 실행하거나 동시에 들어오는 요청을 더 처리하는 데 쓰일 수 있다. 두 활용 방식은 앱 설명에 제시된 기능이다.
기기 연결과 클러스터 구성은 별도 수동 설정이나 명령어 입력 없이 앱에서 진행되는 것으로 전해졌다. 사용자가 각 맥을 직접 설정 파일로 묶는 절차를 줄이는 구상이다.
추론은 학습을 마친 AI 모델이 입력을 받아 결과를 내는 과정이다. Harbor는 새 모델을 학습하기보다 공개된 모델을 맥에서 실행하는 절차를 다루는 앱으로 소개됐다.
여러 맥의 자원을 묶는 기술은 애플이 앞서 발표했다. 애플은 8월 25일 맥 스튜디오 발표문에서 썬더볼트 5와 RDMA를 이용해 여러 기기를 연결하고 메모리 자원을 공유하는 구성을 설명했다. 애플 발표문
애플은 맥 스튜디오 네 대를 연결한 시험에서 단일 기기보다 AI 추론 속도가 최대 3배 빨랐다고 밝혔다. 이 수치는 Harbor의 성능 시험 결과가 아니라 해당 맥 스튜디오 연결 구성에서 나온 결과다.
RDMA는 기기 사이에서 데이터를 주고받도록 하는 통신 기술이다. 애플은 이를 여러 맥의 메모리 자원을 활용하는 분산 작업에 적용했다.
애플은 10월 15일 공개한 MLX 기술 보고서에서도 단일 맥에 담기 어려운 대형 모델을 여러 맥 스튜디오에 나눠 올리는 방식을 설명했다. 각 기기가 모델의 일부를 맡고 썬더볼트 연결로 계산 결과를 주고받는다. 애플 기술 보고서
보고서는 기기 간 통신에 따르는 부담도 다뤘다. 여러 맥을 연결했을 때의 성능은 모델과 작업 방식에 따라 달라질 수 있다.
애플 개발자 자료에는 macOS 26.2부터 애플 칩과 썬더볼트 5를 갖춘 맥 사이에서 RDMA 통신을 지원한다는 내용이 담겼다. 애플이 공개한 MLX 활용 사례에서는 명령어와 기기 설정 파일로 분산 작업을 시작한다. 애플 개발자 자료
토큰포스트는 앞서 WWDC26 세션에서 로컬 모델을 표준 API로 제공하고 개발 도구가 이를 호출하는 구조를 다뤘다. 이번 Harbor 보도는 공개 모델을 찾아 실행하고 여러 맥을 연결하는 앱의 절차를 소개한다. 로컬 AI 실행과 애플 실리콘의 메모리를 다룬 앞선 보도
Harbor는 애플 계열 소프트웨어 회사 클라리스(Claris) 명의로 비공개 프리뷰 중인 것으로 전해졌다. 정식 출시일은 발표되지 않았다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular