AMD($AMD)의 5세대 EPYC 서버 프로세서가 구글 클라우드(Google Cloud) TPU 8tx의 호스트 인프라를 맡는다. TPU 8tx는 하드웨어 기반 기밀 컴퓨팅을 지원하는 첫 클라우드 TPU 시스템이다.
AMD는 9일 공식 발표에서 이 조합이 기업의 AI 추론·미세 조정·강화학습 작업을 지원하면서 민감한 데이터를 보호하도록 설계됐다고 밝혔다.
EPYC는 TPU가 작업을 수행하도록 데이터를 준비하고, 작업을 조율하며, 가속기와의 통신을 관리한다. AMD는 x86 소프트웨어 호환성도 이번 구성의 요소로 제시했다.
보안 체계에는 EPYC의 보안 암호화 가상화 기술인 SEV가 적용됐다. TPU 가속기가 보호된 메모리에 접근하기 전 장치의 신원과 보안 설정을 확인하며, 고객 입력 문장과 모델 가중치, 연산 중간 데이터는 CPU 메모리와 호스트·가속기 간 전송 과정에서 암호화되도록 설계됐다. 가속기가 연산하는 동안에는 하드웨어 격리가 적용된다.
댄 맥나마라(Dan McNamara) AMD 컴퓨팅 및 엔터프라이즈 AI 부문 수석부사장 겸 총괄은 “고성능 AI 시스템에는 가속기의 요구를 감당할 CPU 기반이 필요하다”고 말했다. 호스트 CPU가 AI 가속기의 데이터 처리와 작업 조율을 뒷받침한다는 점을 강조한 발언이다.
AMD와 구글 클라우드는 여러 세대의 EPYC 프로세서에 걸쳐 협력해 왔다. AMD 프로세서는 구글 클라우드의 C4D, N4D, H4D, Z4D, G4 가상머신에도 쓰인다. AMD는 GPU와 맞춤형 AI 가속기를 사용하는 시스템 전반에서 주요 하이퍼스케일 클라우드 사업자와 프런티어 AI 연구소 10곳 이상이 EPYC를 호스트 CPU로 선택했다고 밝혔다. 이는 TPU 8tx의 도입 규모가 아니라 여러 가속기 시스템에서 EPYC가 맡는 호스트 CPU의 채택 범위를 가리킨다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular