서틱(CertiK)과 컬럼비아대(Columbia University) 연구진은 컴파일된 GPU 커널 인스턴스 149개를 평가해 83개가 Lean 규격을 충족한다는 점을 증명했다. 연구진은 6개 라이브러리에서 정확성 문제 38건도 발견했다.
서틱은 20일 공개한 공식 발표문에서 TensorLean의 연구 결과를 밝혔다. 이번 연구는 실제 AI 연산 코드의 정확성을 형식 검증으로 확인하는 데 초점을 맞췄다.
GPU 커널은 그래픽처리장치에서 특정 계산을 수행하는 작은 프로그램이다. 대형언어모델의 학습과 답변 생성에 필요한 연산을 맡는다.
149개는 평가한 컴파일 커널 인스턴스 수이고, 83개는 Lean 규격 충족을 증명한 인스턴스 수다. 38건은 평가에서 규격을 충족하지 못한 인스턴스 수가 아니라 라이브러리에서 발견한 정확성 문제 수다.
문제 2건은 딥시크(DeepSeek)의 DeepGEMM에서, 23건은 FlashAttention에서 확인됐다. 두 라이브러리에서 발견된 문제는 합계 25건으로, 전체 38건의 일부다.
일반적인 시험은 개발자가 고른 입력 사례를 실행해 문제가 있는지 살핀다. 시험에 포함되지 않은 입력 크기나 실행 조건에서 오류가 나타날 수 있다는 한계가 있다.
형식 검증은 프로그램이 해야 할 계산과 적용 조건, 허용 오차를 수학적 요구사항으로 적은 뒤 코드가 이를 충족하는지 증명하는 방식이다. 이번 연구진은 이 요구사항을 Lean 규격으로 작성했다.
증명이 성립하면 명세에 적힌 조건을 만족하는 모든 입력과 실행에서 해당 커널이 요구사항을 충족한다는 뜻이다. 보장은 검증 범위와 조건 안에서만 성립한다.
AI 연산 코드는 처리 속도를 높이려고 데이터의 메모리 배치와 GPU 작업 분담을 바꾸기도 한다. 데이터 이동과 계산을 겹쳐 수행하거나 정밀도가 낮은 연산을 쓰는 최적화도 적용한다.
본지는 앞서 GPU 커널 최적화 실험에서 예산 조건에 따라 성능 결과가 달랐던 연구를 보도했다. 이번 TensorLean 연구는 성능 향상 폭을 비교하기보다 최적화된 코드의 계산 정확성을 증명하는 데 초점을 맞췄다.
TensorLean은 GPU용으로 컴파일된 코드 표현인 PTX를 직접 검증한다. 연구진은 이를 통해 성능 최적화가 반영된 실제 구현이 정해진 계산 명세를 충족하는지 확인했다.
증명은 Lean으로 작성해 각 단계를 기계가 확인할 수 있게 했다. 연구진은 이 방식으로 여러 세대의 GPU 아키텍처에 걸친 커널을 평가했다.
이번 결과는 개별 연산 코드에 적용된다. AI 모델 전체의 성능이나 답변의 사실성까지 증명한 것은 아니다.
서틱은 가상의 사례로 1억달러(약 1331억원) 규모의 AI 학습에서 계산량 1%를 다시 수행하면 100만달러(약 13억3100만원)의 추가 연산비가 들 수 있다고 제시했다. 이는 TensorLean 도입으로 실제 절감한 금액이 아니라 계산 오류의 잠재적 비용을 설명하기 위한 예시다.
코드를 최적화한 뒤에는 새 구현이 기존 요구사항을 충족하는지 다시 확인할 수 있다. 계산 목표와 전제가 같으면 명세를 재사용하고, 입력 조건이나 허용 오차가 달라지면 명세도 조정해야 한다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular