앤트로픽, AI 답변 검증용 영지식증명 시제품 공개

앤트로픽(Anthropic)이 지정한 AI 모델에서 답변이 나왔는지 확인하는 영지식증명 시스템 ‘FlashProve’를 공개했다. 모델 가중치를 이용자에게 공개하지 않고도 답변의 출처를 검증하도록 설계한 연구 시제품이다.

앤트로픽은 2일(현지시간) 실행 코드와 기술 보고서, 수학적 보안 명제를 검증한 Lean 증명을 공개했다. 공개 내용은 앤트로픽 공식 발표에 담겼다.

시스템은 두 단계로 작동한다. 먼저 모델 제공자가 특정 가중치에 대응하는 암호학적 지문을 공개하고, 답변을 만들 때 해당 모델의 계산 결과라는 증명 파일을 생성한다.

이용자는 공개된 지문과 질문, 답변을 바탕으로 증명을 확인한다. 모델을 다시 실행하거나 가중치를 내려받지 않아도 지정한 모델의 계산 결과인지 판별할 수 있다.

앤트로픽은 AI 답변의 문장만으로는 실제 작동한 모델을 알기 어렵다고 설명했다. 중간 서비스가 요청을 다른 모델로 보내거나 답변 토큰을 바꾸더라도 출력 내용만으로는 이를 가려내기 어렵다는 것이다.

FlashProve는 zkSNARK라는 암호학적 증명 방식을 추론 검증에 적용했다. 앤트로픽은 이 기술이 스타크넷(Starknet) 같은 블록체인 확장망에도 쓰이는 계열이며, FlashProve에서는 거래가 아닌 AI 모델의 계산 결과를 검증한다고 설명했다.

성능 시험에는 메타(Meta)의 4000억개 매개변수 혼합 전문가 모델인 라마4 매버릭(Llama 4 Maverick)을 사용했다. 가중치는 4비트로 양자화했으며, 시험 문맥 길이는 1024토큰이었다.

앤트로픽은 CPU 24코어와 H100 GPU 1장을 사용해 24개 요청을 묶었을 때 증명 생성에 약 223초가 걸렸다고 밝혔다. 이 시험에서 문맥 처리량은 초당 약 110토큰이었다.

요청당 증명 파일 크기는 약 19MB였다. 다만 증명 하나가 확인하는 것은 1024토큰 문맥 전체에 대한 답변이 아니라 출력 토큰 1개다. 따라서 초당 110토큰이라는 수치는 답변 전체를 그 속도로 검증한다는 뜻이 아니다.

증명 확인에는 GPU가 필요하지 않았다. 앤트로픽의 시험에서 CPU 24개 스레드로는 약 17초, 단일 스레드로는 약 21초가 걸렸다.

증명을 만드는 데 드는 GPU 시간은 일반 추론보다 길었다. 앤트로픽은 같은 모델을 vLLM으로 처리한 시험과 비교해 FlashProve의 증명 생성 시간이 약 70~95배라고 밝혔다.

이 방식이 확인하는 것은 답변이 지정된 모델의 계산에서 나왔는지 여부다. 답변이 사실인지, 정확하거나 유용한지는 증명하지 않는다.

현재 시스템은 최대 1024토큰 문맥의 정수 연산과 정해진 방식의 토큰 선택을 대상으로 한다. 가중치는 숨기지만 모델 구조는 숨기지 않으며, 대화형 서비스의 긴 문맥이나 답변 전체를 검증하는 범위는 아니다.

앤트로픽은 보안 명제를 Lean으로 형식화했지만, 수학적 명세와 논문, 빠른 실행 코드가 모두 완전히 일치한다고 보장하지는 않았다. 이 때문에 Lean 증명만으로 실제 실행 코드의 모든 동작까지 확인됐다고 볼 수는 없다.

앤트로픽은 코드 저장소를 유지·관리하지 않는 연구 결과물로 표시했다. 이번 공개는 정해진 시험 조건에서 모델 출력 일부를 검증하는 방법과 측정 결과를 제시한 연구 단계에 머물러 있다.