구글에서 선호하는 출처로 추가
마이크로소프트, AI 모델 실행에 자체 칩 우선 적용
이준한 기자
토포AI로 이 기사 더 깊이 읽기
마이크로소프트($MSFT)가 3세대 AI 가속기 Maia 300을 공개하고, AI 모델 추론에 자체 칩을 주력으로 활용하겠다고 밝혔다. 데이터센터에서 엔비디아($NVDA) 그래픽처리장치(GPU)에 의존해 온 구조를 다변화하려는 움직임이다.
마이크로소프트는 12일(현지시간) Maia 300을 공개했다. CNBC는 칩 생산이 2027년 시작되며, 마이크로소프트가 Maia 제품군을 수 기가와트 규모로 배치하는 것을 목표로 한다고 보도했다. 다만 마이크로소프트의 총괄 책임자 앨리스터 스피어스는 배치 시점은 밝히지 않았다.
회사는 데이터센터 랙 하나에 Maia 300 칩 96개를 넣을 계획이다. 이는 Maia 200 랙에 들어가는 칩 수의 두 배다. 마이크로소프트는 새 칩이 랙당 최대 7배 많은 AI 토큰을 처리하고, 메가와트당 토큰 처리량은 GPU보다 40% 높다고 설명했다.
마이크로소프트의 앨리스터 스피어스 총괄 책임자는 “전력을 더 잘 활용하고 성능을 높일 새로운 아키텍처가 필요하다”고 말했다. 그는 데이터센터에서 전력 사용량이 운영 비용과 직접 연결된다고 덧붙였다.
Maia 300은 마이크로소프트가 자체 AI 칩 개발을 이어온 결과물이다. 회사는 2023년 첫 AI 칩 Maia 100을 공개했고, 올해 1월 Maia 200을 선보였다. 사티아 나델라(Satya Nadella) 마이크로소프트 최고경영자(CEO)는 7월 Maia 200이 기존 데이터센터의 최신 하드웨어보다 달러당 성능이 30% 높다고 밝혔다.
마이크로소프트는 Maia 200으로 오픈AI 모델을 처리하고 있다. Maia 300이 적용되면 마이크로소프트 365 코파일럿 일부 기능의 속도도 빨라질 수 있다고 회사 기술 펠로우 짐 클리윈이 밝혔다.
마이크로소프트는 애저 클라우드에서 고객용 AI 모델을 운영하고, 마이크로소프트 365 코파일럿과 깃허브 코파일럿을 제공한다. 자체 칩은 이들 서비스에서 모델을 실행하는 데 쓰이며, 칩 성능과 전력 효율은 데이터센터 운영 비용에도 영향을 준다.
다만 자체 칩 확대가 엔비디아와 에이엠디($AMD) 제품의 퇴출을 뜻하지는 않는다. 스피어스는 마이크로소프트가 모델 학습에는 두 회사의 칩을 계속 활용한다고 밝혔다.
마이크로소프트의 Maia 가속기는 현재 다른 기업이 시간 단위로 빌릴 수 없다. 무어 인사이트 앤 스트래티지의 패트릭 무어헤드 CEO는 “마이크로소프트 외부에서는 아직 아무도 칩을 시험하지 않았다”고 말했다.
마이크로소프트는 Maia 300 생산을 2027년 시작할 예정이다.
댓글 0
불러오는 중…