앤트로픽, AI 에이전트 3만개…R&D 연산 6% 안전 배정

앤트로픽 내부 플랫폼에서 약 3만개의 AI 에이전트가 연구·엔지니어링 작업을 동시에 수행한 것으로 나타났다. 앤트로픽은 이들 에이전트의 행동을 실시간과 사후 방식으로 감시하고, 2026년 7월 13~20일 측정한 AI 연구·개발 연산량의 약 6%를 안전 작업에 배정했다고 밝혔다.

앤트로픽은 2026년 8월 기준 가장 많이 사용하는 내부 플랫폼에서 이 수치를 집계했다고 밝혔다. 해당 규모는 앤트로픽 전체 시스템이 아니라 특정 내부 플랫폼에서 어느 한 시점에 활동한 에이전트 수다. 같은 내용은 앤트로픽의 공개 자료에서도 확인된다.

플랫폼에서는 모든 에이전트의 작업이 실행 전에 온라인 모니터를 거친다. 앤트로픽은 8월 한 달간 10억건이 넘는 의사결정을 분석한 결과 약 0.002%를 차단했다고 설명했다. 약 4만7000건당 한 건꼴이다.

온라인 감시는 즉시 발생하거나 되돌리기 어려운 위험을 막는 데 초점을 둔다. 에이전트가 작업을 수행하기 전 행동을 점검해 문제가 될 수 있는 결정을 차단하는 방식이다.

사후 감시도 함께 이뤄진다. 시스템은 매주 약 10만건의 기록을 표시하고, 분류기를 통해 우선순위를 나눈다. 이 가운데 우선순위가 높은 약 50건은 사람이 직접 검토한다.

오프라인 감시는 작업이 끝난 뒤 기록을 분석해 시간이 지나며 드러나는 이상 행동을 찾는 방식이다. 온라인 감시와 오프라인 감시를 병행해 실행 전 위험과 사후에 확인되는 문제를 나눠 관리한다.

연산량 배분을 보면 앤트로픽이 2026년 7월 13~20일 측정한 AI 연구·개발 연산량 가운데 약 6%가 안전 작업에 쓰였다. AI가 주도하는 AI 연구·개발 작업만 따지면 안전 작업의 연산량 비중은 약 12%로 높아졌다.

다만 앤트로픽은 연산량만으로 안전 연구의 규모를 완전히 판단하기 어렵다고 설명했다. 안전 연구는 대규모 모델 훈련보다 개별 연구자가 실험을 설계하고 검증하는 데 더 많은 시간을 쓰는 경우가 있기 때문이다.

안전성과 성능 향상에 동시에 기여하는 작업은 안전 연산량에 포함하지 않았다. 이에 따라 이번 수치는 안전 작업에 투입된 연산량을 보수적으로 집계한 결과라고 앤트로픽은 밝혔다.

이번 공개는 AI가 AI 개발 과정에 참여하는 범위가 커지는 상황에서 에이전트의 활동량과 감시 수준을 함께 측정하려는 시도다. 앤트로픽은 다른 프런티어 AI 개발사도 관련 지표를 정기적으로 공개하고 제3자 검증을 받으면 AI 개발 속도와 에이전트 감독 역량, 안전 자원 투입을 비교하는 데 도움이 될 수 있다고 밝혔다.