구글에서 선호하는 출처로 추가
AI 공개 사전 승인안에 보히스 “사우론에게 반지를 쥐여주지 말라”
이준한 기자
버니 샌더스가 발의한 법안은 연산량 기준을 넘는 고급 AI의 배포·공개·수입·이전에 연방정부 승인을 요구한다. 별도 선거 공약은 독립 안전기관에 모델 공개 차단권을 주자고 제안했다.
토포AI로 이 기사 더 깊이 읽기
미국에서 고성능 인공지능(AI) 모델의 공개 전 연방정부 승인을 요구하는 법안과 공개 차단권을 독립 안전기관에 주자는 선거 공약이 제안됐다. 두 구상은 AI 안전을 위한 정부 감독 범위를 놓고 서로 다른 권한 설계를 내놨다.
에릭 보히스(Erik Voorhees) 베니스(Venice) 창업자 겸 CEO는 12일 X에 “사우론에게 반지를 쥐여주지 말라”고 썼다. 이 발언은 크립토슬레이트(CryptoSlate)의 보도에도 담겼다.
보히스는 오픈소스의 투명성과 권력 분산을 AI 안전의 방법으로 들었다. 허가제가 공개와 배포를 제한하고 평등과 충돌할 수 있다는 주장도 폈다.
AI 위험을 경고하며 안전장치와 정부 관여를 주장하는 목소리도 있다. 빌 게이츠(Bill Gates) 마이크로소프트(Microsoft, $MSFT) 공동창업자는 AI가 10억 명의 사망을 초래할 사건을 일으킬 만큼 강력해질 수 있다고 경고했으며, 본지는 앞서 관련 발언을 보도했다.
보히스는 비트코인 분야에서 사업을 해온 인물이지만, S.5493과 엘세이드 공약에는 가상자산이나 블록체인을 직접 규율하는 조항이 없다.
◇ 사전 승인 대상은 ‘고급 AI’
버니 샌더스(Bernie Sanders) 미국 상원 의원은 9월 3일 발표문에서 “미래를 소수의 거대 기술기업 손에 맡겨선 안 된다”고 말했다. 그는 고급 AI 개발의 위험을 줄이기 위해 공적 감독이 필요하다고 주장했다.
샌더스가 발의한 ‘인공초지능 금지법’(S.5493)은 훈련에 정수 또는 부동소수점 연산 10^25회 이상을 사용하는 시스템을 ‘고급 AI’로 정의한다. 이 기준은 법안 원문에 담겼다.
법안은 기준에 해당하는 시스템을 배포·공개·수입·이전하기 전에 신설 AI 부처의 승인을 받도록 했다. 따라서 모든 AI 서비스가 사전 승인 대상이라는 뜻은 아니다.
부처 장관은 공개 전 검사에서 공공에 위험을 줄 특성을 발견하면 승인을 보류하도록 돼 있다. 공개 여부를 결정하는 권한이 장관에게 주어지는 구조다.
법안에는 장관을 대통령이 지명하고 상원이 동의하는 절차와 과학기술 자문위원회 설치, 부처 직원의 이해충돌 제한도 담겼다. 다만 자문위원은 장관이 선정한다.
압둘 엘세이드(Abdul El-Sayed) 미시간주 연방 상원의원 선거 후보는 10월 13일 ‘AI Under Control’ 공약에서 독립 AI 안전기관에 연구소 검사와 모델 공개 차단 권한을 주자고 제안했다. 개발 일시 중단과 시스템 종료 권한도 공약에 포함됐다.
공약은 기관 외부에서 과학위원회를 선정하고 예외 조치를 공개하도록 했다. 영장 없는 감시에도 반대한다는 입장을 담았다.
두 방안은 공개 전 통제 권한을 두자는 점은 같지만 설계가 다르다. S.5493은 신설 부처 장관의 승인과 보류 권한을 중심으로 하고, 엘세이드 공약은 독립 기관에 검사·중단·종료 권한을 제안했다.
S.5493은 9월 23일 미국 상원에 제출돼 상무·과학·교통위원회로 회부됐다. 엘세이드의 안은 선거 공약으로 제시됐다.
Comment 0
불러오는 중…