채굴 GPU 8GB→80GB 개조…A100보다 FP16 연산 18% 높아

케이트 엔지니어가 엔비디아($NVDA)의 채굴용 CMP 170HX 그래픽카드를 개조해 사용 가능 메모리를 8GB에서 80GB로 늘렸다. 자체 FP16 연산 시험에서는 개조 카드가 일반 A100보다 약 18% 높은 처리량을 기록했다.

케이트는 10일 공개한 기술 글에서 “내 CMP 170HX 8GB 카드를 사실상 A100-80G로 바꿨다”고 밝혔다. 제품명이 A100으로 바뀐 것은 아니며, 잠겨 있던 메모리와 연산 기능을 사용하게 됐다는 뜻이다.

CMP 170HX와 A100에는 같은 GA100 칩이 쓰인다. 케이트는 채굴용 CMP 170HX 8GB 모델에서 전자 퓨즈(eFuse) 설정으로 메모리 대부분과 일부 연산 기능이 제한돼 있다고 설명했다.

케이트가 조사한 8GB 모델에는 약 80GB의 고대역폭 메모리(HBM)가 물리적으로 탑재돼 있었다. 기존 소프트웨어 방식으로는 최대 64GB까지 사용할 수 있었다.

이번 개조에는 ‘전압 오류 주입’이 쓰였다. 칩의 전압을 짧게 떨어뜨려 평소에는 쓰기 작업이 막힌 전자 퓨즈 제어 기능에 접근한 뒤, 퓨즈 설정과 소프트웨어 구성을 바꿔 메모리와 연산 단위의 잠금을 풀었다.

전압을 조절하는 데는 GPU와 전압 조정기 사이의 신호를 가로채 별도 파형을 보내는 소형 제어 기판이 사용됐다. 케이트는 카드 전원을 반복해 끊었다가 연결했으며, 자신의 장비에서 카드 한 장의 잠긴 기능을 해제하는 데 1~48시간이 걸렸다고 밝혔다.

케이트가 살펴본 CMP 170HX 8GB 카드 10장 가운데 9장은 80GB 메모리를 사용할 수 있었다. 나머지 한 장은 정상 작동하는 메모리가 64GB여서 80GB까지 늘어나지 않았다.

케이트는 사용 가능한 메모리 전체에 데이터를 기록한 뒤 다시 읽는 방식으로 작동을 확인했다. AI 모델 실행 소프트웨어인 vLLM과 SGLang도 실행했다고 밝혔다.

연산 기능도 늘었다. 케이트는 개조 카드에서 정상 작동하는 스트리밍 멀티프로세서(SM)를 약 120~126개 사용할 수 있었으며, 일반 A100에는 108개가 활성화돼 있다고 설명했다.

케이트의 기술 글은 개조 카드의 FP16 처리량을 OpenCL 원시 출력에서 85.858TFLOP/s, 후반 결과 표에서 85.861TFLOP/s로 각각 제시했다. 비교 대상 A100은 72.488TFLOP/s, 기존 소프트웨어 방식으로 개조한 CMP 170HX는 50.129TFLOP/s를 기록했다.

개조 카드와 A100의 약 18% 차이는 해당 FP16 시험 결과에 한정된다. 이 수치가 AI 작업 전반에서 같은 속도 차이를 낸다는 뜻은 아니다.

케이트는 별도 부품 보강과 설정 변경을 거쳐 PCIe 4.0과 카드 두 장의 NVLink 연결도 시험했다. 시험한 두 카드에는 각각 80GB 메모리가 표시됐다고 밝혔다.

반면 오류 정정 기능(ECC), 영상 처리 기능, GPU 분할 기능은 시험하지 않았다. 이들 기능의 작동 여부는 이번 시험 결과에 포함되지 않았다.

케이트는 기술 글에서 NVLink와 관련한 추가 연구 결과를 후속 글로 공개하겠다고 밝혔다.