미국이 중국과 AI 경쟁을 이어가되 프런티어 모델의 자기개선에는 안전장치를 둬야 한다는 주장이 나왔다.
존 히켄루퍼(John Hickenlooper) 미국 민주당 상원의원은 9월 29일 서한에서 “이제 경고를 넘어 안전장치를 마련할 때”라고 말했다. AI 개발을 멈추기보다 혁신과 안전 기준을 함께 추구하자는 입장이다.
히켄루퍼는 16일(현지시간) 디트로이트에서 열린 포천 500 이노베이션 포럼 인터뷰에서 AI의 재귀적 학습과 모델 자체 변경을 무제한 허용해야 하는지 의문을 제기했다. 포천(Fortune)은 인터뷰에서 그가 미국 AI의 경쟁력 자체에는 반대하지 않으면서, 시스템이 의도된 영역 밖에서 스스로 바뀌는 문제를 우려했다고 전했다.
재귀적 학습은 AI가 학습·개발 과정에 다시 관여해 성능 개선을 이어가는 개념이다. 히켄루퍼는 이 과정의 범위와 안전 기준을 논의할 필요가 있다는 취지로 발언했다.
그는 핵무기에 규정이 있고 항공기가 운항 전 절차를 거치는 점을 프런티어 AI의 기본 규칙을 설명하는 비유로 들었다. AI를 두 분야와 법적으로 동일시한 것은 아니다.
9월 서한에서 히켄루퍼는 △강력한 AI 모델의 독립적인 제3자 평가 △위험한 시스템을 알고 배치한 기업의 책임 △중대한 사고와 취약점 보고를 제안했다. 이는 모델의 개발뿐 아니라 배치와 운영 과정도 안전 논의에 포함하자는 내용이다.
서한에는 AI가 일자리에 미치는 영향을 파악하고 교육·직업훈련을 개선하자는 제안도 담겼다. 첨단 AI 칩과 반도체 제조 장비의 수출 제한을 강화하자는 요구도 포함됐다.
AI 자기개선 위험과 국제 공조를 둘러싼 논의는 앞서도 이어졌다. 본지는 AI 자기개선 가능성을 둘러싼 위험 경고와 국제 공조 요구를 다뤘다. 이번 인터뷰에서 히켄루퍼는 미국의 AI 경쟁을 이어가면서 안전장치를 마련해야 한다는 입장을 밝혔다.
AI 모델 안전 기준과 별개로 데이터센터의 전력망 비용도 인터뷰에서 거론됐다. 포천은 히켄루퍼가 데이터센터 주변의 소음과 위험, 주민 불편을 점검하고 시설에 필요한 전력망 증설 비용을 데이터센터가 부담해야 한다고 말했다고 전했다.
히켄루퍼는 9일 성명에서 자신이 지지한 초당적 허가 개혁 법안이 데이터센터에 전력 비용의 공정한 몫을 부담하게 한다고 설명했다. 해당 법안은 전력망과 에너지 사업의 인허가 개혁도 다룬다.
미국 상원은 9일 H.R.2347을 본회의 심의로 넘기기 위한 토론종결 동의를 찬성 73표, 반대 25표로 의결했다. 상원 기록에 적힌 이 표결은 법안의 최종 통과를 뜻하지 않는다.
제프 머클리(Jeff Merkley) 미국 상원의원은 9일 성명에서 “데이터센터는 사용하는 자원에 공정한 몫을 내야 한다”고 말했다. 그는 동시에 법안이 천연가스 발전소와 가스관 건설을 쉽게 만들 수 있다고 비판했다.
태미 덕워스(Tammy Duckworth) 미국 상원의원은 같은 날 성명에서 법안이 가계 비용을 낮출 수 있을지 “회의적”이라고 말했다. 데이터센터의 비용 분담 원칙과 법안의 전체 효과를 놓고 상원 내 시각이 갈렸다.
AI 연구개발 자동화를 다룬 논문에 참여한 연구자 22명은 자동화가 급격한 성능 향상으로 이어질 가능성을 제시했다. 연구진은 상당한 불확실성이 남아 있다고 밝히고, 정책 당국이 자동화 진행을 파악하고 위험을 유도·제한할 방안을 마련해야 한다고 제안했다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular