전 구글 엔지니어들이 설립한 MatX, 5억 달러 투자 받다

MatX Inc.는 전 구글 엔지니어들이 설립한 칩 스타트업으로, 첫 제품을 시장에 내놓기 위해 5억 달러(약 7,200억 원) 규모의 자금을 유치했습니다. 이번 시리즈 B 투자 라운드는 제인 스트리트와 시추에이셔널 어웨어니스가 주도했으며, 마벨 테크놀로지와 스트라이프 공동 창업자를 포함한 다수의 투자자들이 참여했습니다. 이미 1억 달러(약 1,440억 원) 이상을 다른 투자자들로부터 유치한 바 있습니다.

MatX는 대형 언어 모델을 실행할 수 있는 프로세서를 개발 중입니다. 마트X 원이라는 이름의 이 칩은 현존하는 그래픽 카드보다 높은 처리량을 제공할 것으로 보입니다. 이 칩을 수십만 개 연결하여 대규모 학습 및 추론 작업을 수행할 수 있는 클러스터를 구축할 수 있습니다.

대다수 인공지능 프로세서와 유사하게, MatX 원은 다양한 계산 모듈이 네트워크로 연결된 '시스토릭 어레이' 구조를 채택했습니다. 이 모듈들은 AI 명령어 처리 시 필요한 계산의 일부를 수행합니다. 독특하게도, MatX 원은 '분할 가능한 시스토릭 어레이' 구조로 설계되어 있어 효율적으로 데이터셋에 맞는 회로 구성을 조정할 수 있습니다.

MatX 원은 LLM이 명령을 처리하는 방식을 결정하는 모델 가중치를 SRAM 셀에 저장해 처리 속도를 높이는 기술을 활용합니다. 이와 함께 느리지만 고용량의 HBM 메모리에는 KV 캐시 데이터를 저장, 반복적인 계산을 줄이며 시간을 절약합니다.

또한 MatX는 연구 블로그를 통해 성능 최적화 방안들을 제시하며, 이를 통해 신속한 반응 생성과 LLM의 주의 메커니즘을 개선할 예정입니다. 회사의 공동 창업자이자 CEO인 라이너 포프는 블로그를 통해 "스터스트로먼트는 낮은 대기 시간과 긴 컨텍스트 지원을 결합하여, 현재까지 발표된 어떤 시스템보다도 LLM을 더 효율적으로 처리할 수 있다"고 설명했습니다.

이번 투자는 칩 설계 최종 단계를 마무리하는 데 활용되며, 1년 내로 반도체 개발의 마지막 단계인 테이프아웃 과정을 완료하는 것이 목표입니다.