AMD·인텔 ACE, GCC 17 개발 트리에 반영

AMD와 인텔이 공동 설계한 인공지능(AI) 연산용 명령어 확장 ‘AI 컴퓨트 익스텐션(ACE)’ 지원 코드가 GCC 17 개발 트리에 반영됐다. x86 프로세서에서 행렬 연산을 가속하기 위한 컴파일러 지원이 시작된 것이다.

GCC 프로젝트는 9월 2일 ACEv1 명령어 지원 커밋을 공개했다. GCC 커밋에는 ACE 전용 내장 함수와 타일 연산, 외적 기반 명령어, FP8 혼합 정밀도 연산, 타일 데이터 이동 기능이 포함됐다.

ACE는 AI 모델의 핵심 연산인 행렬 곱셈을 x86 프로세서에서 처리하기 위한 명령어 확장이다. AMD와 인텔이 공동 작성한 ACE 백서는 같은 수의 AVX10 입력 벡터를 사용할 때 ACE의 외적 연산이 AVX10의 동등한 곱셈·누산 연산보다 최대 16배 높은 ‘계산 밀도’를 제공한다고 설명한다.

이 16배 수치는 전체 애플리케이션 성능이 16배 높아진다는 뜻은 아니다. 특정 행렬 연산 구조에서의 이론적 처리량을 비교한 수치로, 실제 성능은 ACE를 탑재한 프로세서의 설계와 소프트웨어 구현에 따라 달라진다.

ACEv1은 INT8, OCP FP8, OCP MXFP8, OCP MXINT8, BF16 등 저정밀도 AI 연산 형식을 지원한다. 저정밀도 연산은 일부 추론 작업에서 메모리 사용량과 계산 부담을 줄이는 데 활용된다.

ACE는 인텔의 기존 ‘어드밴스드 매트릭스 익스텐션(AMX)’과 관련된 프로그래밍 모델을 일부 재사용한다. 다만 GCC 개발자 메일링 리스트의 ACEv1 패치 설명은 ACE와 기존 AMX를 함께 사용해서는 안 되며 서로 다른 내장 함수 이름을 사용한다고 설명한다.

이에 따라 기존 AMX용 코드를 별도 수정 없이 ACE 프로세서에서 실행할 수 있다고 보기는 어렵다. ACE는 AMX와 일부 개념을 공유하지만 별도 명령어와 내장 함수 체계를 갖춘다.

LLVM 계열에서도 ACEv1 지원 작업이 진행되고 있다. AMD 엔지니어가 올린 LLVM 개발 브랜치에는 ACE 타일 연산과 외적 명령어, FP8 연산, 타일 데이터 이동을 위한 컴파일러와 클랭(Clang) 변경 사항이 기록돼 있다.

이번 변화의 핵심은 하드웨어 출시보다 소프트웨어 생태계에 있다. 컴파일러가 ACE 명령어와 내장 함수를 인식하면 운영체제, 라이브러리, AI 프레임워크가 향후 ACE를 대상으로 최적화할 기반을 마련할 수 있다.

컴파일러 지원은 프로세서가 실제로 출시됐다는 의미와는 다르다. 현재까지 공개된 자료에서 ACE를 지원하는 상용 프로세서와 확정된 출시 일정은 확인되지 않는다.

AMD와 인텔이 공개한 ACEv1 사양서는 제품과 로드맵이 설계 단계에 있으며 사전 통보 없이 변경될 수 있다고 명시한다. 따라서 외부에서 제기된 특정 출시 시점을 공식 일정으로 단정하기도 어렵다.

ACE가 실제 산업 현장에서 활용되려면 호환 프로세서 출시와 함께 GCC·LLVM의 안정화가 필요하다. 운영체제와 라이브러리, AI 프레임워크가 ACE를 지원하는지도 추가로 확인해야 할 요소다.

저정밀도 행렬 연산은 AI 추론에서 메모리 사용량과 연산 부담을 줄이는 방식으로 활용된다. 다만 지원 형식이 실제 성능 향상으로 이어지는지는 프로세서 구조와 소프트웨어 최적화 수준에 따라 달라진다.

AMD와 인텔이 공통으로 겨냥한 x86 명령어 체계가 GCC와 LLVM 개발 단계에 각각 반영되면서 개발자 도구 차원의 준비는 시작됐다. 다만 ACE의 상용화 여부와 실제 성능은 호환 프로세서와 소프트웨어 지원이 공개된 뒤 판단할 수 있다.