AI 킬 스위치 논의…美 민주당, 16일 AI 안전 대응 논의

미국 민주당이 인공지능(AI) 개발 속도 조절과 안전 규제를 주요 의제로 내세우면서 의회 논쟁이 다시 커지고 있다. 하원 민주당 의원총회는 16일 AI 시스템을 긴급 중단할 수 있는 이른바 'AI 킬 스위치'와 개발 속도 조절 방안을 논의할 예정이다.

하킴 제프리스(Hakeem Jeffries) 미국 하원 민주당 원내대표는 13일 ABC 방송 '디스 위크'에서 "지금 단호한 조치를 취해야 한다"고 말했다. 그는 AI 개발 속도를 늦춰 국민을 보호해야 한다고 주장했다.

제프리스는 마이크 존슨 하원의장이 초당적 AI 태스크포스를 중단시켰다고 비판했다. 민주당은 2025년 12월 AI·혁신경제위원회를 출범시켰으며, 위원회는 2026년 내내 산업계·시민사회·관련 상임위원회와 정책을 논의할 예정이다.

미국 민주·공화 양당이 AI 개발 속도와 안전 규제를 놓고 맞서면서 연방 차원의 공통 규칙 마련이 늦어질 수 있다는 기존 논의와도 이어진다. 양당의 AI 규제 합의가 늦어질 가능성이 커졌다는 본지 보도에서도 양측의 정책 간극이 다뤄졌다.

AI 킬 스위치는 AI 시스템에 긴급 중단 통제 장치를 두는 방안이다. 다만 적용 대상과 발동 요건, 기업의 책임 범위는 이번 논의 전까지 정해지지 않았다.

논쟁의 계기는 제이컵 콕슨(Jacob Coxon) 전 앤스로픽(Anthropic)·오픈AI(OpenAI) 연구원의 경고다. 콕슨은 두 회사가 안전보다 최첨단 모델 개발 경쟁에 집중하고 있으며 AI가 10년 안에 인류를 위협할 수 있다고 주장했다.

AP통신은 콕슨의 게시물이 하룻밤 사이 1억 명 이상에게 도달했다고 보도했다. 다만 온라인 도달 규모의 산정 방식은 공개되지 않았다.

AI 업계에서도 개발 속도와 안전장치를 둘러싼 경고가 나왔다. 다리오 아모데이(Dario Amodei) 앤스로픽 CEO는 안전 대책이 따라잡을 시간을 확보하려면 AI 모델의 능력 향상 속도를 늦춰야 한다고 밝혔다.

샘 알트먼(Sam Altman) 오픈AI CEO는 외부 독립 평가자가 AI 모델에 직원과 유사한 수준으로 접근해 안전성을 점검하는 방안에 동의했다. 두 경영진의 발언은 AI 개발 경쟁과 안전 평가를 함께 다뤄야 한다는 업계 내부의 요구를 보여준다.

반대편에서는 규제가 미국의 기술 경쟁력을 약화할 수 있다는 우려가 나온다. 도널드 트럼프(Donald Trump) 미국 대통령은 AI 규제가 중국에 이익을 줄 수 있다며 추가 규제에 부정적인 입장을 보였다.

마이크 존슨 하원의장도 의회가 기술기업보다 AI의 세부 내용을 잘 알기 어렵다며 기업이 안전 문제에 더 큰 책임을 져야 한다는 취지의 입장을 밝혔다. 민주당이 요구하는 공적 통제와 공화당이 강조하는 산업 경쟁력 사이의 간극이 쟁점으로 남아 있다.

민주당 내부에서도 규제의 구체적인 방식에는 논의가 필요하다. AI 킬 스위치를 모든 모델에 적용할지, 고위험 시스템에 한정할지, 발동 권한을 정부와 기업 중 어디에 둘지는 정해지지 않았다.

이번 논의는 AI 산업 경쟁력과 소비자·노동자 보호를 함께 다뤄온 민주당 정책위원회 활동의 연장선이다. 민주당 AI·혁신경제위원회가 2026년 정책 논의를 이어가고 있다는 본지 보도에서도 최종 정책 프레임워크와 입법 일정은 정해지지 않았다고 전했다.

AI 규제 논의가 국내 가상자산 시장이나 블록체인 산업에 미친 직접적인 영향은 확인되지 않았다. 현재 자료상 이번 사안의 중심은 가상자산 규제가 아니라 미국 내 AI 개발과 안전장치의 범위다.

민주당 하원 의원총회는 16일 오전 한국시간으로 AI 대응 방안을 논의한다. 회의 이후 구체적인 법안이나 규제안이 제시될지는 아직 정해지지 않았다.

AI·혁신경제위원회는 2026년 내내 산업계와 시민사회, 관련 상임위원회와 정책을 논의할 예정이다.