앤트로픽, AI 안전 법안 초안에 독립 평가 의무 제안

이준한 기자 2026.10.17 08:27

앤트로픽이 고위험 AI 모델의 배포 제한 조건과 독립 평가·위험 보고 의무를 담은 연방 법안 초안을 미 의원들에게 제안했다. 폴리티코가 전한 초안은 비공개 상태이며 정식 발의되지 않았다.

토포AI로 이 기사 더 깊이 읽기

앤트로픽이 고위험 인공지능(AI) 모델의 배포 제한 조건과 독립 평가 의무를 담은 연방 법안 초안을 미 의원들에게 제안했다. 보도된 초안은 비공개 상태이며 정식 발의되지 않았다.

폴리티코는 10월 16일(현지시간) 초안 내용을 보도했다. 초안은 모델이 10억달러를 초과하는 피해를 일으키거나 50명을 초과하는 사망·중상으로 이어질 수 있는 ‘예견 가능하고 임박한’ 위험이 있을 때 정부가 개입하도록 제한했다. 이 기준은 공개된 법안 원문이 아니라 비공개 초안에 관한 보도 내용이다.

위험 범주에는 생물무기 개발, 개발자가 자체 모델을 통제하지 못하는 상황, 사이버 공격이 포함됐다. 초안은 상무부에 등록한 독립 평가자가 첨단 모델을 정기적으로 점검하도록 하고, 평가 결과에 따라 보수를 달리 지급하지 못하게 했다. 새로 드러난 위험은 72시간 안에 상무부에 보고하도록 제안했다.

배포 중단 절차도 제한했다. 보도된 초안에 따르면 상무부만 연방 판사에게 모델 배포 중단 명령을 요청할 수 있으며, 다른 정부 기관은 모델 개발·배포·내부 사용을 중단시킬 수 없다.

이번 제안은 앤트로픽이 2026년 6월 공개한 ‘Advanced AI Framework’와 방향이 닿아 있다. 회사는 이 문서에서 최첨단 AI 개발자의 위험 평가, 외부 평가자 참여, 결과·위험·사고의 지속적 공개를 제안했다. 연방정부를 주된 대상으로 삼았지만 세부 정책 제안에는 논쟁의 여지가 있다고 밝혔다. 두 문서가 같은 내용을 담았다고 확인된 것은 아니다.

주 차원의 선례로는 캘리포니아주의 SB 53이 있다. 개빈 뉴섬 캘리포니아 주지사는 2025년 9월 29일 이 법안에 서명했고, 캘리포니아주는 이를 프런티어 AI 안전 관련 첫 주법으로 소개했다. 연방 초안이 SB 53의 조항을 어느 범위까지 반영했는지는 공개된 보도에서 다뤄지지 않았다.

독립 평가가 법률로 의무화되면 평가자 등록과 정기 검증이 제도에 포함될 수 있다. 다만 실제 평가 수요와 비용 규모는 제시되지 않았다. AI 안전 평가와 감독 구조를 둘러싼 논의는 AI 기업의 안전 책임과 감독 구조를 다룬 본지 보도와도 이어진다. 현재 보도된 초안에는 가상자산·블록체인 산업을 직접 다루는 조항이 없다.