구글, 제미나이로 수 주 걸리던 칩 배치 작업 수 시간으로 단축

구글은 10일 공식 발표에서 제미나이를 활용해 자체 칩의 배치 설계 시간을 수 주에서 수 시간으로 줄였다고 밝혔다. 구글은 8세대 텐서처리장치(TPU) 시스템 두 종도 공개했다.

구글은 10일(한국시간) 공식 발표에서 제미나이(Gemini)와 구글 딥마인드(Google DeepMind)의 알파칩(AlphaChip)을 차세대 하드웨어 개발에 활용한다고 밝혔다. 새로 공개한 시스템은 TPU 8tx와 TPU 8i Max다.

칩 배치는 실리콘 웨이퍼 위에 수십억 개 트랜지스터의 위치를 정하는 작업이다. 발표에서 말한 수 주에서 수 시간은 이 단계에 걸리는 시간이며, 구글은 새 칩 설계 자체에는 수년이 걸린다고 구분했다.

두 제품은 새 실리콘 칩이 아니라 기존 TPU 칩을 바탕으로 구성한 시스템이다. 칩이 연산을 수행하는 반도체라면 시스템은 칩 주변의 네트워크와 저장장치 등을 결합한 구성이다.

구글은 칩 주변의 메모리·네트워크·보안 구성을 조정해 특정 작업에 맞는 시스템을 만들 수 있다고 설명했다. 회사는 이 같은 방식으로 전문화된 시스템을 수년이 아닌 수개월 단위로 제공할 수 있다고 밝혔다.

구글은 고도로 규제된 업종의 고객들이 데이터 보호 기능을 원하고, 기업들은 더 큰 문맥을 처리하는 AI 모델을 요구한다고 전했다. TPU 8tx와 TPU 8i Max는 각각 보안과 대용량 문맥 처리에 초점을 맞췄다.

◇ 시스템별 용도

TPU 8tx는 민감한 데이터를 처리하는 기밀 추론용 시스템이다. TPU 8t와 같은 실리콘을 쓰면서 데이터와 모델 가중치를 실행 중에도 보호하고 격리하도록 설계됐다.

기밀 처리 기능은 데이터가 컴퓨터에서 사용되는 동안에도 보호하는 데 초점을 둔다. 일반적으로 데이터는 저장되거나 네트워크를 통해 전송될 때 암호화되지만, 처리 과정에서는 메모리에서 잠금이 해제된다.

구글은 TPU 8tx를 민감한 데이터와 자체 모델을 함께 다루는 규제 산업과 정부 기관을 겨냥한 시스템으로 소개했다. 소규모 학습 작업도 지원한다.

TPU 8i Max는 TPU 8i 칩 두 개를 하나의 패키지에 묶었다. 구글은 TPU 8i보다 연산 능력과 칩 내부 메모리(SRAM), 고대역폭 메모리(HBM) 대역폭을 각각 두 배로 높였다고 밝혔다.

메모리 용량과 대역폭을 늘린 것은 AI 모델이 한 번에 참고할 수 있는 문맥의 크기를 키우기 위해서다. 긴 문서나 큰 코드베이스, 여러 시간 분량의 영상처럼 한꺼번에 처리할 정보가 많은 작업을 염두에 뒀다.

구글은 4월 구글 클라우드 넥스트 행사에서 대규모 모델 학습용 TPU 8t와 실시간 추론용 TPU 8i를 발표했다. 두 시스템은 이번에 추가된 8tx·8i Max와 함께 8세대 제품군을 이룬다.

구글이 제시한 기존 세대 대비 성능 수치는 TPU 8t의 학습 성능 최대 2.7배, TPU 8i의 추론 가격 대비 성능 80% 개선이다. 이 수치는 새로 공개한 TPU 8tx와 TPU 8i Max의 성능을 뜻하지 않는다.

구글은 한 해에 TPU 시스템 네 종을 선보인 것은 처음이라고 밝혔다. 본지는 앞서 구글이 기밀 추론과 긴 문맥 처리에 맞춘 TPU 시스템 두 종을 공개했다고 전했다.

TPU는 구글 내부 모델 학습뿐 아니라 구글 클라우드 고객과 자체 데이터센터를 운영하는 고객도 이용할 수 있다. 구글은 연구기관과 트레이딩 기업, 유통업체, 대학 등을 포함해 TPU 고객이 약 100곳이라고 밝혔다.