AI 개발 가속 기준 임박 가능성…앤트로픽, 현 모델 초과 지정 없어

앤트로픽은 2026년 11월 2일 SEC에 제출한 수정 신고서에서 제출 당시의 내부 추정과 향후 모델 전망을 바탕으로 책임 있는 확장 정책의 AI 기인 급격한 진전 기준을 곧 충족할 수 있다고 밝혔다. 이 판단은 현재 모델이 아니라 내부 추정과 향후 모델에 대한 전망에 근거했다.

앤트로픽(Anthropic)은 2일(현지시간) 미국 증권거래위원회(SEC)에 제출한 기업공개(IPO) 수정 신고서에서 관련 내용을 공개했다. 회사는 해당 기준의 충족 여부를 판단하기 위해 기초 데이터를 계속 평가하고 있다고 밝혔다.

신고서는 AI를 활용한 연구개발이 모델 역량을 안전·정렬·보안 대책의 개발과 검증보다 빠르게 끌어올릴 수 있다고 경고했다. 앤트로픽은 과거에도 개발 속도에 상당한 가속이 발생한 뒤에야 이를 알아챈 적이 있다고 공시했다.

회사의 책임 있는 확장 정책(RSP)은 AI 연구개발 자동화와 관련된 급격한 발전 가속을 기준으로 삼는다. 이 기준은 유의미한 AI 연구개발 기여가 없었을 때 예상되는 속도와 장기간 관측한 최고 속도 모두의 두 배로 AI 전체 역량이 발전하고, 그 가속이 연구·엔지니어링 자동화에 상당 부분 기인할 개연성이 있으며, 추세가 이어지면 더 큰 가속으로 이어질 것으로 보일 때 충족된다.

이 기준은 연구자 개인의 생산성이 두 배가 되는 것과 다르다. 정책은 AI 전체 역량의 발전 속도를 따지며, 인력이나 연산 자원 증가만으로 설명되는 변화와도 구분한다.

앤트로픽은 현재 모델 가운데 이 기준을 넘었다고 지정한 모델은 없다고 밝혔다. 회사가 말한 '곧 도달할 수 있다'는 전망도 현재 모델의 기준 초과 판정을 뜻하지 않는다.

재귀적 자기개선(RSI)은 AI가 후속 AI의 연구와 개발에 기여하고, 그렇게 개발된 모델이 다시 다음 세대 개발을 돕는 과정이다. 앤트로픽은 이런 순환을 '개발의 고리 닫기'라고 부른다.

회사는 클로드(Claude)를 다음 모델의 실험, 훈련 데이터 생성·처리, 평가와 안전 감사 자동화, 코드 작성·검토에 활용하고 있다. 모델이 개발 과정의 여러 작업을 맡으면서 다음 세대 모델의 연구·훈련·시험도 지원한다는 설명이다.

수정 신고서에 따르면 2026년 9월 앤트로픽 코드 저장소에 기여된 코드의 90% 넘게 클로드가 작성했다. 이는 코드 기여 비중으로, 모델 개발 전체를 클로드가 독자적으로 수행했다는 뜻은 아니다.

앤트로픽은 2일 SEC에 제출한 수정 신고서에서 2026년 9월 30일 종료된 3개월 동안 엔지니어 1인당 하루 평균 코드 기여량이 2024년 연평균의 45배를 넘었다고 밝혔다. 회사는 코드 기여량이 늘어난 배경으로 엔지니어들이 코드를 한 줄씩 작성하기보다 클로드의 작업을 지시하고 검토하는 방식으로 바뀐 점을 들었다.

별도 내부 벤치마크에서 명확한 명세가 없는 개방형 엔지니어링 문제에 대한 클로드의 성공률은 2026년 9월 약 90%였다. 이는 9개월 전보다 약 50%포인트 오른 수치다.

회사는 자사 모델이 연구와 코드 작성에 더 깊이 관여할수록 현재 모델의 결함이나 편향이 후속 모델에 이어질 수 있다고 신고서에 적었다. 그런 문제가 여러 세대에 걸쳐 쌓이면 발견하거나 바로잡기 어려울 수 있다는 설명이다.

앤트로픽은 AI를 이용해 더 뛰어난 AI를 개발하는 과정이 진전을 급격히 가속하면 상당한 안전 위험을 낳을 수 있다고 밝혔다. 모델 역량의 발전 속도가 안전·정렬·보안 조치보다 빨라질 경우 위험을 평가하고 줄이는 데 어려움이 생길 수 있다는 취지다.

회사는 기술적으로 가능해지더라도 의미 있는 인간의 감독이나 이해 없이 클로드가 후속 첨단 모델을 완전히 자율적으로 설계·구축하는 방식을 안전하게 사용할 수 있을 것으로 예상하지 않는다고 밝혔다. 이 설명은 현재 AI가 사람의 감독 없이 다음 모델을 완성했다는 의미와 구분된다.

앤트로픽은 최첨단 모델 개발에서 인간의 통제를 유지하도록 책임 있는 확장 정책의 개정을 검토하고 있다. AI 연구개발 역량 기준을 충족했을 때의 의미도 평가하겠다고 했다.

앤트로픽은 수정 신고서에서 모델 역량이 안전·정렬·보안 대책보다 빠르게 발전하면 위험을 평가하고 완화하기 어려워질 수 있다고 경고했다.

앤트로픽의 책임 있는 확장 정책은 2026년 7월 8일 시행된 버전 3.4다. 회사는 기준 충족의 의미를 계속 평가한 뒤 정책에 따라 후속 보고서를 공개하겠다고 수정 신고서에 밝혔다.