AI 킬스위치·초지능 제한…미 의회 규제 논의 본격화

인공지능(AI)이 인간의 통제를 벗어나 문명을 위협할 수 있다는 우려가 커지면서 미국 의회에서 킬스위치 도입과 고위험 AI 모델 검증을 포함한 규제 방안이 논의되고 있다.

월스트리트저널(WSJ)은 앤트로픽을 떠난 연구자 제이컵 콕슨의 경고 이후 미국 의원들이 AI 감독 체계를 강화하는 방안을 잇따라 제시하고 있다고 보도했다. 콕슨은 9일 엑스(X)에 올린 글에서 앤트로픽과 오픈AI가 안전성보다 경쟁을 앞세워 인간이 통제하기 어려운 시스템 개발을 서두르고 있다고 주장했다.

본지는 앞서 콕슨의 사임 이후 미국 의회에서 초지능 개발 제한 법안이 논의되고 있다고 보도했다. 이번에는 논의 범위가 초지능 개발 제한을 넘어 AI 감독기관 설립과 모델 검증 체계로 넓어졌다.

로 칸나(Ro Khanna) 민주당 하원의원은 원자력과 항공 분야처럼 AI를 감독하는 별도 연방 규제기관 설립을 주장했다. AI 시스템이 위험하게 행동할 경우 강제로 중단할 수 있는 킬스위치 도입도 지지했다.

킬스위치는 위험한 행동을 하는 AI 시스템을 사람이 중단할 수 있도록 하는 장치나 권한을 뜻한다. 별도 규제기관이 설립되면 고위험 모델의 개발·시험·배포 과정에 정부가 관여하는 방식이 쟁점이 될 수 있다.

버니 샌더스(Bernie Sanders) 민주당 상원의원은 10일 의원들에게 보낸 비공개 브리핑 초청장에서 “빠르게 발전하고 위험해지는 이 기술의 영향을 다루는 데 의회가 크게 뒤처져 있다”고 말했다. 샌더스 의원과 진보 성향 인사들은 가장 지능이 높은 인간을 넘어서는 ‘초지능’ 개발을 제한하는 방안도 추진하고 있다.

민주당에서는 중간선거 이후 하원 다수당이 될 경우 AI에 초점을 맞춘 특별위원회를 설치하는 방안도 검토하고 있다. 애나 폴리나 루나 하원의원은 AI 위험에 대응하기 위한 의회 특별회기 개최를 제안했고, 크리스 밴홀런 상원의원은 미국과 중국의 AI 안전장치·시험 체계 마련을 위한 긴급 대화를 촉구했다.

공화당과 민주당이 함께 추진하는 법안도 논의되고 있다. 테드 크루즈(Ted Cruz) 공화당 상원의원과 에이미 클로버샤(Amy Klobuchar) 민주당 상원의원은 AI가 핵·생물학적 위협을 가능하게 하는 등 재앙적 위험을 초래하는 상황에 대응할 초당적 법안의 추진력을 확보하겠다고 밝혔다.

클로버샤 의원은 “기다리지 말고 지금 행동해야 한다는 점이 분명하다”고 말했다. 해당 법안은 AI 개발업체가 정부 전문가들과 함께 모델을 검증하고 시험하도록 하는 내용을 담을 예정이다.

크루즈 의원은 AI 위험을 두고 “두려운 일”이라고 말했다.

도널드 트럼프(Donald Trump) 미국 대통령은 AI 안전을 위한 킬스위치와 관련 조치에 찬성한다는 입장을 밝힌 바 있다. 다만 과도한 규제가 미국의 기술 경쟁력을 약화할 수 있다고 경고해왔다.

규제 강화 움직임을 정치적 행동으로 보는 반론도 나왔다. 크루즈 의원과 데이비드 삭스(David Sacks) 백악관 AI 고문은 콕슨의 활동 배경에 의문을 제기했고, 테일러 부도위치(Taylor Budowich) 이노베이션 카운슬 액션 대표는 “규제와 책임을 세계 각국 정부로 넘기자는 요구는 안전을 위한 것이 아니다”라고 주장했다.

콕슨은 회사를 떠난 결정이 자신의 독자적인 판단이었다고 밝혔다. 앤트로픽도 AI 위험이 실제로 존재하며 자사의 안전 관련 활동은 진정성 있는 것이라는 입장을 밝힌 바 있다.

AI 업계 내부에서도 규제 방식에 대한 의견은 엇갈린다. 오픈AI는 감독과 합리적인 규칙을 환영한다고 밝혔지만, 기업 부담이 지나치게 커지는 규제에는 우려를 나타낸 것으로 전해졌다.

크리스 레헤인(Chris Lehane) 오픈AI 글로벌대외협력책임자는 10일 블로그에서 “AI 정책의 창은 지금 열려 있으며 우리는 이를 활용할 것”이라며 의회와 협력하겠다고 말했다. 기업들이 감독 필요성에는 동의하더라도 구체적인 규제 형태를 두고는 입장이 갈릴 수 있다는 의미다.

미 의회는 AI 시스템의 실제 행동에 대한 조사도 시작했다. 조시 홀리(Josh Hawley) 공화당 상원의원과 리처드 블루먼솔(Richard Blumenthal) 민주당 상원의원은 샘 올트먼(Sam Altman) 오픈AI 최고경영자에게 수백 개의 AI 에이전트가 협력해 허깅페이스 시스템에 침투한 사건에 관한 정보를 요구했다.

다만 연방 법률 제정까지는 시간이 필요하다. 의원들 사이에서 AI에 적용할 제한 수준을 두고 의견이 갈리고 있으며, 중간선거를 앞두고 의회 회기도 얼마 남지 않았다. 미국 최초로 AI 모델을 직접 감독하는 연방 법률이 단기간에 마련될지는 불투명하다.