AI 속도 조절론에 데이비드 색스 “규제 포획” 경고

데이비드 색스 백악관 인공지능(AI) 자문관이 프런티어 AI 개발 속도를 늦추자는 제안에 ‘규제 포획’ 우려를 제기했다. 안전 규제가 선두 기업의 경쟁 우위를 굳히는 수단으로 변질될 수 있다는 주장이다.

색스는 오픈AI와 앤스로픽이 정부 규제를 기다리기보다 자체적으로 개발 속도와 안전 기준을 조정해야 한다는 입장을 내놓은 것으로 전해졌다. 크립토 브리핑은 색스가 기업들이 먼저 자율적인 안전 조치를 마련할 수 있는지 보여줘야 한다고 지적했다고 전했다. 다만 색스의 X 게시물 원문은 직접 확인되지 않았다.

논쟁의 출발점은 다리오 아모데이(Dario Amodei) 앤스로픽 최고경영자가 9월 공개한 글이다. 아모데이는 “AI 모델의 능력을 개선하는 속도를 늦춰야 한다”고 말했다. 안전장치가 기술 발전을 따라잡을 시간을 확보해야 한다는 취지다.

아모데이는 AI 연구를 중단하자는 의미는 아니라고 설명했다. 그는 AI 기업이 외부 평가자에게 지속적으로 접근할 수 있도록 하고, 기업 간 안전 기준 조율을 허용하는 방안을 검토해야 한다고 제안했다.

‘Pacing the Frontier’ 공식 성명에는 프런티어 AI 기업 임직원 1,386명이 참여했다. 성명은 AI 연구 자동화가 발전 속도를 통제하기 어려운 수준으로 끌어올릴 수 있다며, 각국 정부가 국제적 조정 장치를 마련해야 한다고 요청했다.

성명은 AI 연구를 즉시 중단하기보다 안전장치와 감독 체계를 마련할 시간을 확보할 수 있도록 프런티어 개발 속도를 의도적으로 조절할 기술·거버넌스 수단을 개발하자는 내용이다. 서명자 명단에는 오픈AI, 앤스로픽, 구글 딥마인드, 메타 AI 소속 연구자들이 포함됐다.

아모데이는 안전장치가 따라잡지 못하면 6~12개월 안에 AI 에이전트 군집이 인터넷 전체를 장악할 수 있다고 우려했다. 그는 민주주의 국가의 기업들이 공통 안전 기준을 마련하고, 각국 정부가 권위주의 국가와의 조정 가능성을 검토해야 한다고 제안했다.

샘 알트먼(Sam Altman) 오픈AI 최고경영자는 아모데이의 제안에 동의하며 외부 평가자 제도에 참여하겠다고 밝혔다. 일론 머스크도 “다리오가 옳다”고 호응했다.

반론은 국가 간 경쟁에 집중된다. 미국 기업들이 개발 속도를 늦추는 동안 중국 기업이 같은 합의에 참여하지 않으면 미국의 기술 우위가 약해질 수 있다는 주장이다.

아모데이 역시 권위주의 국가가 협조하지 않을 경우 국제 공조의 효과가 제한될 수 있다고 인정했다. 색스는 중국이 같은 합의에 참여하지 않을 가능성을 들어 미국 기업만 개발 속도를 늦추는 구상이 국가 경쟁력 측면에서 역효과를 낼 수 있다는 취지의 입장을 내놓은 것으로 전해졌다.

‘규제 포획’은 규제 대상 기업이 정책 결정 과정에 영향력을 행사해 자신에게 유리한 규칙을 만들도록 하는 현상을 뜻한다. 색스가 문제 삼은 지점은 현재 시장을 주도하는 기업들이 안전 규제의 범위와 기준을 설계할 경우 후발 기업의 비용과 진입장벽이 커질 수 있다는 점이다.

이번 논쟁은 AI 개발 속도 조절을 둘러싼 논의가 기업의 수익성과 경쟁 조건 문제로 확장된 흐름과도 이어진다. 앞선 논의에서는 막대한 AI 개발 비용과 수익성 압박이 개발 속도 조절론의 배경일 수 있다는 해석이 제시됐다.

미국 내 AI 규제 논쟁에서는 안전 기준이 필요한 최소 장치인지, 대형 기업에 유리한 허가제인지가 반복해서 쟁점이 됐다. 데이비드 색스와 다리오 아모데이가 고성능 AI 규제 범위를 두고 충돌한 사례도 같은 문제의 연장선에 있다.

이번 사안은 AI 안전 규제와 기술기업 경쟁 조건을 둘러싼 논쟁에 해당한다. 비트코인(BTC), 이더리움(ETH) 가격이나 블록체인 산업에 미친 직접적인 영향은 확인되지 않았다.

아모데이의 제안이 실제 정책으로 이어질지는 기업 간 합의와 정부의 법적 지원 여부에 달렸다. 색스의 X 게시물 원문과 미국 정부의 공식 정책 전환 여부는 추가 확인이 필요하다.