앤드루 양 “AI 킬 스위치 필요”…관련 법안 발의 단계

앤드루 양 노블 모바일 설립자가 고성능 인공지능(AI) 모델에 법적 책임과 출시 전 대기기간을 적용하고, 위험 상황에서 작동을 멈출 수 있는 '킬 스위치'를 마련해야 한다고 주장했다.

앤드루 양(Andrew Yang) 노블 모바일 설립자는 17일 공개된 디크립트 인터뷰에서 "두려움은 현실이고, 우려도 현실이며, 필요한 조치도 현실"이라며 미국 의회의 규제를 촉구했다. 그는 AI 기업이 중국과 경쟁해야 한다는 이유만으로 규제 대상에서 제외돼서는 안 된다고 말했다.

양은 CNN 인터뷰에서도 AI 기업의 자율 규제만으로는 부족하다고 주장했다. 전력망과 금융 시스템, 국가안보를 겨냥한 악용 가능성에 대응하려면 외부 규제가 필요하다는 설명이다.

그는 "중국과 경쟁하면서도 미국인의 생명과 이익을 보호할 수 있다"며 킬 스위치 같은 안전장치를 제시했다. 킬 스위치는 위험 상황에서 AI 시스템을 제한하거나 일시 중단·종료할 수 있는 기술적 통제 수단이다.

핵심은 모든 AI를 일괄 중단하는 권한이 아니라 고위험 모델에 사람이 개입할 수 있는 최소한의 통제력을 확보하는 데 있다. 분산된 서버와 자율형 에이전트에서 작동하는 AI를 동시에 멈출 수 있는지는 별도 쟁점이다.

미국 의회에는 관련 법안도 제출돼 있다. 테드 리우(Ted Lieu) 하원의원과 네이선얼 모런(Nathaniel Moran) 하원의원은 7월 23일 AI 킬 스위치 법안(AI Kill Switch Act)을 발의했다.

법안 H.R.9917은 일정 요건에 해당하는 고성능 AI 개발사가 모델을 제한·중단·종료할 수 있는 기술적 능력을 유지하도록 하는 내용을 담았다. 재난적 피해를 초래할 수 있는 AI 시스템에 대해 국토안보부 장관이 긴급 조치를 명령할 수 있도록 하는 조항도 포함됐다.

H.R.9917은 현재 하원 국토안보위원회에 회부된 발의 단계다. 법률로 확정되거나 시행 일정이 정해진 상태는 아니다.

양은 익명의 AI 연구소 책임자로부터 자율형 AI 봇이 인터넷에 자기복제 코드를 남겼다는 취지의 설명을 들었다고도 말했다. 일부 AI 기업이 모델 훈련을 위해 '합성 인터넷'을 구축해야 한다는 주장도 덧붙였다.

다만 해당 연구소나 책임자의 이름은 공개되지 않았다. 자기복제 코드가 인터넷 전반에 퍼졌다는 사실 역시 독립적으로 확인되지 않았다.

킬 스위치에 대한 반론도 있다. AI 모델이 여러 서버와 자율형 에이전트에 분산돼 작동할 경우 모든 시스템을 동시에 멈추기 어렵고, 정부가 긴급 조치를 발동할 기준도 정해야 한다는 지적이다.

CNN 인터뷰에서는 영국 정부가 유사한 발상을 거부했고, AI 모델에 대한 접근을 차단하는 것만으로는 위험을 충분히 막기 어렵다는 의견도 소개됐다. 기술적 한계와 별개로 인간이 중단을 시도할 수 있는 최소한의 통제 장치가 필요하다는 반론도 함께 제기됐다.

이번 논의는 앤드루 양이 AI 기업에 킬 스위치와 책임 규정을 요구한 본지 앞선 보도의 연장선에 있다. 앞선 보도와 마찬가지로 이번 사안에서도 법안 처리 여부와 실제 적용 범위는 의회 절차에 달려 있다.

분산형 AI 시스템에서 킬 스위치가 작동할 수 있는지에 대해서는 본지의 관련 분석에서도 기술적 한계가 논의됐다. H.R.9917의 다음 절차는 하원 국토안보위원회 심사다.