오픈AI, AI 개발 속도 조절 합법성 의회에 질의

오픈AI가 경쟁 인공지능 기업들과 개발 속도를 늦추는 협의가 미국 반독점법에 저촉되는지 의회에 질의했다. 인공지능 안전을 위한 협력과 경쟁 제한 행위를 어디까지 구분할지가 쟁점으로 떠올랐다.

오픈AI는 최근 몇 주 동안 미 의회 관계자들에게 ‘프론티어 AI’ 개발을 업계 차원에서 늦추는 합의가 합법적인지 명확한 지침을 요청했다. 오픈AI는 관련 보도에 앞서 논평 요청에 답하지 않았다. 이 내용은 와이어드 보도로 알려졌다.

논의의 배경에는 오픈AI 최고과학자 야쿱 파초키(Jakub Pachocki) 오픈AI 최고과학자가 6일 공개한 글이 있다. 파초키는 오픈AI 공식 글에서 현재 어떤 연구소도 인공지능 시스템을 최고 속도로 확장할 만큼 정렬과 모니터링 문제를 해결하지 못했다고 밝혔다.

파초키는 인공지능이 자신의 개발 과정을 지원하는 ‘재귀적 자기개선’ 가능성을 언급하며 “필요하다면 미래 개발 속도를 늦추기 위한 조율”이 필요하다고 말했다. 그는 공통 안전 기준이 마련될 때까지 자발적인 개발 속도 조절이 일반화되기를 기대한다고 밝혔다.

이는 오픈AI가 인공지능 개발을 중단하기로 했다는 뜻은 아니다. 파초키의 주장은 안전 기준과 국제 공조가 마련될 때까지 기업들이 개발 속도를 조정할 수 있어야 한다는 데 초점이 맞춰져 있다.

법적 쟁점은 기업 간 협의가 경쟁 제한으로 해석될 수 있다는 점이다. 경쟁사들이 제품 출시나 모델 개발을 함께 늦추면 생산량 제한이나 시장 경쟁 억제로 판단될 가능성이 있다.

반면 사이버 보안 취약점, 모델 탈취, 고위험 인공지능의 오용에 대응하기 위한 정보 공유는 국가안보 목적의 협력으로 평가될 여지가 있다. 안전을 위한 공동 대응과 경쟁사 간 개발 일정 조율을 같은 행위로 볼 수 있는지가 문제다.

미 의회에는 관련 협력을 제한적으로 허용하는 법안도 제출됐다. 짐 뱅크스(Jim Banks) 공화당 상원의원과 애덤 시프(Adam Schiff) 민주당 상원의원은 7월 23일 ‘적대적 위협 및 보안 위험 협력법’을 발의했다. 시프·뱅크스 의원실은 법안 설명에서 외국의 모델 탈취와 사이버 공격, 생화학·핵·공격형 사이버 위협, 통제 상실 위험에 대응하기 위한 정보 공유와 방어 조율을 허용한다고 밝혔다.

법안은 가격 담합, 시장 분할, 독점화, 보이콧 등 경쟁을 훼손하는 행위는 허용하지 않는다. 고위험 인공지능 모델의 배포를 늦추거나 제한하는 조율에는 사전 서면 통지도 요구한다.

이 법안은 현재 상·하원 법사위원회에 회부된 상태로, 법률로 확정되지는 않았다. 따라서 법안 자체가 기업 간 개발 속도 조절을 포괄적으로 허용하는 것은 아니다.

오픈AI는 9일 별도 정책 글에서 의회와 ‘역량 기반의 국가 AI 안전 규제’를 마련하고 싶다고 밝혔다. 다른 프론티어 연구소들과 자발적 안전 기준을 추진하고, 개발을 언제 늦추거나 중단해야 하는지에 관한 국제 기준도 마련하겠다는 내용이다. 오픈AI 정책 글에는 구체적인 법적 합의안은 제시되지 않았다.

업계 반응은 엇갈린다. 존 슐먼(John Schulman) 전 오픈AI 공동창업자이자 싱킹 머신즈(Thinking Machines) 최고과학자는 “가짜 이유”라며 반독점법을 이유로 안전 협력을 피해서는 안 된다고 주장했다. 그는 반독점법이 특정 합의를 금지할 뿐 공동 제안까지 막는 것은 아니라고 설명했다.

반면 온라인 AI 커뮤니티에서는 중국과의 경쟁을 고려하면 미국 기업만 개발을 늦추기 어렵다는 반응과, 안전 사고가 발생하면 오히려 강한 규제가 뒤따를 수 있다는 의견이 함께 나왔다. 이 반응은 법률 해석이나 오픈AI의 공식 입장으로 볼 수 없다.

이번 논의의 핵심은 인공지능 개발을 늦출지 여부보다 안전 협력을 경쟁 제한으로 보지 않도록 허용 범위를 어디까지 법으로 구분할지에 있다. 오픈AI와 경쟁사들이 실제 공동 감속 합의에 들어갔는지, 미 의회가 오픈AI에 공식 법률 해석을 제공했는지는 확인되지 않았다.