앤트로픽, 사전학습 한 달 넘게 늦춰…안전 승인 구조 공개

미국 AI 기업 앤트로픽(Anthropic)은 새 모델의 보안 조치를 강화하기 위해 사전학습을 한 달 넘게 늦췄다. 기업공개(IPO)용 상장 신고서에는 안전 검토와 출시 판단의 승인 구조도 담겼다.

앤트로픽은 26일 미국 증권거래위원회(SEC)에 제출한 S-1에서 모델 가중치 유출을 막고 지식재산을 보호할 조치를 보강하기 위해 새 프런티어 기반 모델의 사전학습을 연기했다고 밝혔다. S-1 등록신고서에 포함된 예비 투자설명서는 등록 효력이 발생하기 전에는 주식을 판매할 수 없다고 명시했다.

사전학습은 모델이 대량의 자료에서 기본 패턴을 익히는 초기 단계다. 따라서 한 달 넘게 늦춘 대상은 모델 학습이며, 모델 공개나 출시 일정의 연기와는 다르다. 보안 조치에 따른 사전학습 연기는 앞서 본지 보도에서도 다뤄졌다.

출시 판단 규칙은 7월 8일부터 적용된 책임 있는 확장 정책(Responsible Scaling Policy·RSP) 3.4판에 담겼다. 이 정책은 모델의 위험 평가와 후속 개발·배포 계획을 ‘위험 보고서’에 담도록 규정한다. 앤트로픽의 정책 문서는 위험 보고서의 최종 검토·승인 절차를 명시한다.

일반적인 경우 위험 보고서의 최종 검토와 승인은 최고경영자(CEO)와 책임 있는 확장 담당관(RSO)이 맡는다. 두 사람은 위험 평가와 후속 개발·배포 계획이 적절한지 최종 판단한다.

예외는 다른 기업의 AI 시스템도 위험을 낳는다는 점을 근거로, 앤트로픽 모델이 더하는 위험은 상대적으로 작다는 분석을 개발·배포 진행의 주요 근거로 삼는 경우다. 이때는 이사회와 장기 공익 신탁(LTBT)이 위험 보고서를 명시적으로 승인해야 한다. 따라서 모든 출시 결정에 신탁 승인이 필요한 것은 아니다.

LTBT는 특수 주식인 Class T 주식을 통해 이사회 과반을 구성하는 이사를 선임·해임할 권한을 갖는다. 앤트로픽은 신탁과 수탁자가 일상 경영이나 회사 전략을 직접 결정하지 않는다고 공시했다.

이사회 내 안전·위험 위원회는 모델 안전과 보안에 관한 정책·절차를 감독한다. 신탁의 이사 선임권과 위원회의 정책 감독 역할은 각각 신고서에 별도로 제시됐다.

창업자들이 구성한 Founder LLC에는 공모 직전 Class F 주식 한 주를 발행하는 구조가 제시됐다. 이 주식은 일반 주주 투표 안건에서 전체 의결권의 50.1%를 갖는다.

LTBT의 권한은 이사회 과반을 구성하는 이사 선임·해임에, Class F 주식의 권한은 일반 주주 투표 안건에 적용된다. 두 권한은 지배구조 안에서 서로 다른 영역을 맡는다.

SEC에 제출된 신탁 계약은 신탁 조항의 집행을 청구할 수 있는 외부 주주에게 별도 요건을 둔다. 주주나 주주 그룹은 지정된 주식 의결권의 10% 이상을 1년 이상 연속 보유해야 하며, 소송 중에도 그 비율을 유지해야 한다. 수탁자 보유 주식과 Class F 주식은 해당 의결권 계산에서 제외되며, 이 요건은 신탁 계약 집행에 관한 것으로 모든 주주 권리에 적용되는 것은 아니다.

앤트로픽은 모델별 평가 결과에 따라 학습이나 연구를 중단·연기하거나 출시를 늦추고 접근을 제한할 수 있다고 밝혔다. 보안 취약점 탐지 능력을 고려해 AI 모델 ‘미토스(Mythos)’를 처음에는 일부 기관에 연구용으로만 공개한 사례도 신고서에 담았다.

회사는 이런 결정이 단기 매출에 부정적인 영향을 줬을 수 있다고 설명했다. 다만 신고서에는 분기 매출 목표 미달을 감수한 출시 연기나 이 문제를 둘러싼 경영진과 신탁의 충돌 사례가 제시되지 않았다.

독립 연구기관 GovAI는 2026년 3월 책임 있는 확장 정책 3.0판 분석에서 기존의 명시적인 개발·배포 중단 약속이 사라진 점을 우려했다. 동시에 위험 보고서와 안전 로드맵이 의사결정의 투명성을 높일 수 있다고 평가했다. GovAI의 분석은 IPO 신고서 제출 이후가 아니라 앞선 정책 개정에 관한 내용이다.

앤트로픽은 정책 개정 배경으로 한 회사만 개발을 멈추면 안전장치가 약한 경쟁사가 속도를 주도할 수 있는 ‘집단행동 문제’를 들었다. RSP는 안전 로드맵의 목표가 구속력 있는 약속은 아니라고 설명한다.

포천(Fortune)은 28일 오후 10시 19분(한국시간) 기고문에서 ‘분기 매출 목표를 놓치더라도 누가 출시를 멈출 수 있나’라는 가상 상황을 제시했다. 기고문의 질문은 실제로 벌어진 사건을 전한 것이 아니다. 신고서는 승인 권한과 지연 사례를 공개했지만, 매출 압박이 안전 심사에 미친 실제 영향까지 담지는 않았다.