앤트로픽, 클로드로 3일 만에 AMD GPU 입력 처리 구현
앤트로픽은 클로드 미토스 프리뷰를 활용해 클로드 모델 한 종의 입력 처리 단계를 AMD MI355X에서 약 3일 만에 사용 가능한 성능으로 구현했다고 밝혔다. 실험은 모델 전체나 대규모 서비스 운영 성능을 입증한 것은 아니다.
토포AI로 이 기사 더 깊이 읽기
앤트로픽(Anthropic)은 클로드 미토스 프리뷰를 활용해 한 클로드 모델의 입력 처리 기능을 AMD($AMD) MI355X GPU에서 약 3일 만에 사용 가능한 성능으로 구현했다고 밝혔다. 공개된 실험 범위는 모델 전체가 아니라 입력 처리 단계다.
블록비츠(BlockBeats)는 앤트로픽이 상장 로드쇼에서 이 실험을 공개했다고 보도했다. 필요한 GPU 커널은 클로드가 거의 모두 이식하거나 새로 작성했고, 사람의 개입은 적었다고 전했다.
입력 처리는 이용자가 보낸 내용을 모델이 읽고 계산을 시작하는 단계다. 이 단계가 AMD 칩에서 작동했다는 사실만으로 답변 생성까지 포함한 전체 추론 과정이나 대규모 서비스 운영 성능을 판단할 수는 없다.
앤트로픽은 과거 새 칩 플랫폼을 도입할 때 수십 명의 엔지니어가 6~12개월을 투입했다고 설명했다. 이 수치는 플랫폼 도입 경험을 가리키고, 이번 약 3일은 한 모델의 입력 처리 기능을 구현한 기간이어서 작업 범위가 서로 다르다.
GPU 커널은 GPU에서 특정 계산을 수행하는 저수준 코드다. 기존 칩에 맞춰 작성된 커널을 다른 GPU에서 실행하려면 코드 호환성을 확인하고, 칩 구조에 맞게 조정한 뒤 계산 결과와 실행 속도를 시험해야 한다.
엔비디아($NVDA)가 2006년 도입한 CUDA는 GPU용 프로그램을 작성하고 실행하는 플랫폼이다. 블록비츠는 2018년 무렵부터 파이토치(PyTorch)와 텐서플로(TensorFlow) 같은 주요 딥러닝 프레임워크가 CUDA와 관련 계산 라이브러리를 널리 사용했다고 전했다. 엔비디아 CUDA 설명서도 이 플랫폼의 기능을 안내한다.
엔비디아는 여러 GPU 간 통신, 디버깅, 성능 최적화 도구도 갖춰 왔다. 이런 환경에서 쌓인 코드와 도구 때문에 다른 칩으로 옮길 때는 단순히 코드를 바꾸는 것 외에도 호환성과 성능을 맞추는 작업이 필요하다.
블록비츠는 AMD MI355X가 고대역폭 메모리 288GB를 탑재했지만, 엔비디아 GPU용으로 만든 커널이 AMD 칩에서 그대로 작동하지 않거나 작동해도 성능이 기대에 미치지 못할 수 있다고 설명했다. AMD 아키텍처에 맞춘 조정과 반복 시험이 필요한 이유다.
AMD는 CUDA 프로그램의 이전을 돕는 ROCm과 HIPIFY 도구를 제공해 왔다. 트리톤(Triton) 같은 교차 플랫폼 도구도 이전 부담을 줄이지만, 복잡한 저수준 계산 코드는 여전히 추가 최적화가 필요할 수 있다. AMD HIPIFY 설명서에는 관련 도구가 소개돼 있다.
본지는 앞서 MI355X 초기 평가에서 한 엔지니어가 작업을 시작한 뒤 주력 모델의 성능 그래프가 주말 동안 상승했다는 내용을 보도했다. 이번 공개에서는 한 모델의 입력 처리 단계와 약 3일이라는 작업 기간이 제시됐다.
앤트로픽은 상장신고서에서 엔비디아 GPU, AMD GPU, 구글($GOOGL) TPU, 아마존($AMZN) 트레이니엄(Trainium)을 아우르는 다중 칩 연산 배정 시스템을 수년에 걸쳐 구축했다고 밝혔다. 이 시스템은 가격과 성능을 기준으로 작업에 사용할 칩을 선택하는 구조다.
앤트로픽과 AMD는 7월 공동 발표에서 앤트로픽이 MI355X를 이미 사용 중이며, 클로드를 활용해 AMD GPU 작업을 최적화하고 ROCm 개발을 앞당기기로 했다고 밝혔다. ROCm은 AMD GPU에서 계산 프로그램을 실행하는 소프트웨어 환경이다. 양사의 공동 발표에도 협력 계획이 담겼다.
톰 브라운(Tom Brown) 앤트로픽 공동창업자 겸 최고컴퓨팅책임자는 당시 발표에서 “다양한 하드웨어에서 운영하면 각 작업에 적합한 하드웨어를 배정할 수 있다”고 말했다. 이 발언은 앤트로픽이 단일 칩에 의존하지 않는 운영을 목표로 한다는 점을 설명한다.
투자자 마르셀로 P. 리마(Marcelo P. Lima)는 CUDA의 진입 장벽이 사라졌다고 평가했다. 애널리스트 벤 풀라디안(Ben Pouladian)은 일부 계산을 AMD에서 실행하는 것과 전체 시스템을 대규모로 안정적이고 비용 효율적으로 운영하는 일은 다르다고 지적했다.
AMD는 앤트로픽에 최대 50억달러(약 6조7100억원)를 투자하기로 했다. 양사는 MI450 계열 GPU를 최대 2기가와트 규모로 배치할 계획이며, 첫 1기가와트 배치는 2027년 상반기 시작 예정이다.

김미래 기자 




Comment 0
불러오는 중…