AI 개발 중단·초지능 금지 법안 2건 미 의회 회부

미 상·하원에 첨단 인공지능(AI) 개발 일시중단과 인공 초지능 금지를 담은 별도 법안 2건이 발의돼 각각 소관 위원회에 회부됐다. 두 법안은 아직 제정되지 않아 개발 중단이나 금지가 시행된 상태는 아니다.

버니 샌더스(Bernie Sanders) 상원의원은 9월 23일 S.5493을 발의해 상원 상무·과학·교통위원회에 회부됐다. 그레그 카사르(Greg Casar) 하원의원은 9월 24일 H.R.10538을 발의했고, 하원 감독·정부개혁위원회로 넘어갔다. 하원 기록에는 야사민 안사리(Yassamin Ansari) 하원의원이 공동발의자로 올라 있다.

◇ 적용 범위와 금지 기준

하원 법안 원문은 학습에 사용한 정수 또는 부동소수점 연산량이 10의 25제곱회 이상인 시스템을 ‘첨단 AI 시스템’으로 정의한다. 법안은 이 기준에 해당하는 시스템을 개발 일시중단 대상으로 삼았다.

법안이 제정되면 새 AI 부처가 인력을 갖추고 안전 규칙을 마련할 때까지 해당 시스템의 학습·수정·미세조정을 중단하도록 했다. 이는 법안이 제시한 조건부 조치로, 현재 적용되는 규정은 아니다.

아직 출시되지 않은 첨단 AI 시스템의 배포도 제한하는 내용이 담겼다. 적용 대상은 법안상 연산량 기준을 충족하는 시스템이다.

안전 규칙에는 개발 계획 보고, 개발·배포 과정 평가, 안전 관행 감사, 공개 전 최종 승인 절차가 포함된다. 법안은 새 AI 부처가 관련 규칙을 마련하는 체계를 제안했다.

연산량 기준은 기술 변화와 연산 효율을 고려해 조정할 수 있도록 했다. 따라서 법안은 기준을 고정하기보다 기술 변화에 맞춰 적용 기준을 손보는 방안을 담고 있다.

인공 초지능은 대부분의 영역에서 인간의 인지 능력을 넘거나 인류를 파괴·무력화할 능력을 갖춘 시스템으로 규정됐다. 이 정의는 연산량이 아니라 시스템의 능력을 기준으로 한다.

법안은 인공 초지능뿐 아니라 무단 접근, 자기 개선, 인간의 감독 회피 등 지정된 선행 능력을 지닌 시스템의 개발·배포·보유도 금지 대상으로 제시했다. 연산량 기준의 일시중단과 능력 기준의 금지는 서로 다른 적용 조건을 둔다.

인공 초지능 개발을 막기 위한 국제 협정 추진과 AI 연산 인프라 수출 통제 가능성도 법안에 담겼다. 이는 제안된 수단이며, 확정된 수출 제한 조치는 아니다.

◇ 법안에 대한 찬반

샌더스 의원실은 법안 소개 자료에서 연방 감독 체계와 안전성 검토 절차가 마련될 때까지 첨단 AI 개발을 멈춰야 한다는 입장을 밝혔다. 이는 법안을 발의한 측의 정책 주장이다.

대니얼 카스트로(Daniel Castro) 정보기술혁신재단(ITIF) 회장은 9월 3일 성명에서 광범위한 AI 개발 금지가 혁신과 생산성 향상 기회를 해치고 중국에 전략적 우위를 줄 수 있다고 주장했다. 이는 ITIF의 입장으로, 업계 전체의 견해를 뜻하지는 않는다.

미 하원에는 고성능 AI 개발사의 안전관리와 사고 보고를 다루는 별도 법안도 발의된 바 있다. 본지는 해당 법안의 발의와 당시 의회 일정을 앞서 보도했다.

이번 법안에 가상자산·블록체인 사업자를 직접 규제하는 조항은 없다. AI 연산 인프라 수출 통제 가능성이 반도체와 간접적으로 맞닿아 있지만, 국내 반도체 기업별 영향은 법안에 제시되지 않았다.