앤스로픽, AI 가속 기준 임박 가능성 공시…초과 지정 모델 없어

앤스로픽(Anthropic)은 AI 연구개발 자동화로 역량 개선 속도가 급격히 빨라지는 기준에 곧 도달할 가능성을 언급하면서도, 현재 기준을 넘었다고 지정한 모델은 없다고 밝혔다.

앤스로픽은 기업공개 준비 과정에서 2일 미국 증권거래위원회(SEC)에 제출한 S-1/A에 내부 추정과 향후 모델에 대한 기대를 담았다. 회사는 관련 자료를 계속 평가 중이라고 밝혔다.

◇ 개선 속도 추정과 측정 범위

AI 평가 비영리단체 METR는 5일 공개한 평가 보고서에서 앤스로픽 모델의 과제 수행 역량 개선 속도가 과거보다 약 두 배 빨라졌을 가능성을 제시했다. 평가 대상은 답과 평가 기준이 명확한 과제다.

평가는 8월 12일부터 10월 29일까지 앤스로픽 내부 자료와 직원 면담을 바탕으로 진행됐다. 비교 대상은 2024년 3월부터 2025년 10월까지의 개선 속도였으며, 추정 기준 시점은 2026년 10월이다.

별도의 벤치마크 분석에서는 2025년 10월 이후 앤스로픽 모델의 AECI 점수 개선 속도가 이전 추세의 1.9배로 추정됐다. 95% 신뢰구간은 1.5~2.8배다. 이 지표의 세부 내용은 앞서 보도한 AECI 분석에서도 다뤘다.

1.9배는 모델 역량 자체가 그만큼 커졌다는 뜻이 아니다. 이는 벤치마크 점수의 개선 속도를 비교한 결과로, 평가단이 제시한 전체 과제 역량 개선 속도 추정과는 측정 범위가 다르다.

평가단은 실제 전체 가속 배율이 1.3~3배일 수도 있다고 봤다. 이 범위는 전체 개선 속도에 대한 불확실성을 나타내며 AECI 분석의 95% 신뢰구간과는 별개다.

METR는 가속의 상당 부분이 앤스로픽의 AI 연구개발 활용과 관련됐을 가능성을 제시했다. 학습에 투입한 컴퓨팅 자원의 증가 속도는 가속의 원인이 아니라고 판단했지만, 다른 요인에 대해서는 결론을 내리지 못했다.

자동 채점이 쉬운 과제에 평가가 치우쳤거나 과거 개선 속도가 낮아 변화 폭이 크게 보였을 가능성도 한계로 들었다. 따라서 평가 결과는 특정 과제군의 개선 속도 추정으로 읽어야 한다.

METR는 앤스로픽이 결론을 내리는 데 중요했던 근거 상당 부분을 공개 보고서에서 삭제했다고 밝혔다. 평가단은 비공개 모델을 직접 시험하지 않아 외부 독자가 공개된 근거만으로 결론을 충분히 재검토하기 어렵다고 설명했다.

◇ RSP 경보선 충족 여부는 별도 판단

앤스로픽의 책임 있는 규모 확대 정책(RSP) 3.4는 AI 연구개발 자동화와 관련한 조기 경보 기준을 둔다. 모델이 경쟁력 있는 비용으로 연구 인력 전체를 대체하거나, AI 연구개발 기여로 역량 개선 속도가 두 배 수준으로 빨라졌다고 판단되는 경우가 기준에 해당한다.

이 기준은 위험을 점검하기 위한 경보선이며 재앙적 피해가 발생했다는 판정은 아니다. METR는 앤스로픽이 8월 공개한 위험 보고서를 별도로 재검토했다.

METR는 7월 15일 기준 모델의 직접적인 연구개발 자동화에 따른 재앙적 위험이 낮다는 앤스로픽의 평가에는 동의했다. 다만 조기 경보 기준이 이미 충족됐을 가능성을 배제하기 어렵고, 회사 보고서가 가속 근거와 불확실성을 충분히 드러내지 않았다고 지적했다. METR의 위험 보고서 검토에서 이런 쟁점을 다뤘다.

METR와 앤스로픽 연구진 다수는 당시 기준을 넘지 않았다는 쪽에 무게를 뒀다. METR가 제기한 가능성과 앤스로픽의 현재 모델 지정은 서로 다른 평가다.

앤스로픽은 같은 S-1/A에서 2026년 1월부터 9월까지 내부 클로드(Claude) 사용의 정가 기준 가치가 250배 넘게 늘었다고 밝혔다. 9월 코드베이스 기여분의 90% 이상도 클로드가 작성했다고 공시했다.

이 수치는 회사 내부 사용과 코드 작성 비중을 나타낸다. METR가 측정한 모델 역량 개선 속도와 같은 지표로 볼 수 없다.

앤스로픽은 RSP에 따라 위험 보고서를 추가로 공개하겠다고 밝혔지만, 발표 날짜는 제시하지 않았다.