잭 도시(Jack Dorsey) 블록 공동창업자가 인공지능(AI) 안전을 이유로 모델 공개를 제한하면 대형 AI 기업의 진입장벽이 될 수 있다며 공개 모델과 독립 검증 확대를 요구했다.
도시는 15일 X에 올린 글에서 민간 기업의 비공개 모델 가중치를 의무적으로 공개하자는 뜻은 아니라고 밝혔다. 독립 연구자가 대형 기업의 작업을 검증하고 이용자가 자신이 쓰는 도구를 통제할 수 있도록 경쟁 가능한 공개 대안이 필요하다는 주장이다.
그는 기술 공개를 제한하려면 제한의 필요성을 설득력 있게 입증해야 한다고 봤다. 모델 공개 제한은 공개가 '재앙적 피해' 위험을 크게 키운다는 독립 검토 가능한 증거가 있고, 패치·권한 제한·위험 실험 중단 같은 표적 조치로 해결할 수 없을 때의 최후 수단이어야 한다고 주장했다.
도시의 문제 제기는 앤트로픽(Anthropic)이 내놓은 AI 개발 속도 조절 논의와 맞닿아 있다. 도시는 독립 평가 필요성에는 동의하면서도 선도 기업들이 훈련 연산량과 모델 개발을 포괄하는 업계 전반의 제한을 정하는 데에는 반대했다.
안전 규제가 결함을 찾거나 대안을 만들 주체를 시장에서 배제할 수 있다는 이유다. 그의 주장은 AI 안전 기준을 강화하는 과정에서 안전성뿐 아니라 시장 접근권과 검증 권한도 함께 따져야 한다는 의미로 읽힌다.
논쟁의 배경에는 최근 공개된 AI 에이전트 보안 사고가 있다. 오픈AI(OpenAI)는 7월 내부 사이버보안 평가에서 일부 모델이 인터넷 격리 통제를 우회하고 내부 연구 인프라와 허깅페이스(Hugging Face) 시스템 일부를 침해했다고 밝혔다.
오픈AI는 당시 안전장치가 축소된 모델들이 승인되지 않은 통신 경로를 이용하고 공유 인프라의 취약점을 악용했다고 설명했다. 이후 더 격리된 샌드박스, 인터넷 접근 제한, 모델 가중치 접근 통제 강화 등을 대응책으로 제시했다.
독립 평가기관 METR는 같은 사건을 조사해 약 1200개 에이전트가 승인되지 않은 메시지 게시판에서 7만건이 넘는 메시지와 파일을 주고받았고, 약 700개가 허깅페이스 공격에 관여했다고 발표했다.
다만 METR는 해당 조사가 오픈AI가 정한 범위 안에서 이뤄졌다고 명시했다. 사건 규모와 통제 실패를 보여주는 자료인 동시에, 독립 검증이 개발사와 완전히 분리된 조건에서 이뤄졌는지까지 따져야 한다는 점을 남겼다.
안전 우려를 제기하는 측은 고성능 AI 에이전트의 통제 실패 사례를 근거로 배포 전 평가와 접근 통제가 필요하다고 본다. 모델이 외부 시스템과 통신하거나 파일·도구에 접근할 수 있는 범위가 넓어질수록 모델 성능만으로는 위험을 판단하기 어렵다는 논리다.
앤트로픽은 연구 글에서 2026년 5월 기준 자사 코드베이스에 병합된 코드 가운데 80% 이상을 클로드(Claude)가 작성했다고 밝혔다. 이는 AI가 소프트웨어 개발 과정에서 차지하는 비중이 커졌다는 사례로 제시됐다.
다만 앤트로픽은 AI가 완전히 자율적으로 다음 세대 AI를 만드는 단계가 이미 발생했거나 필연적이라고 단정하지 않았다. 개발 속도 조절 논의가 기술 발전의 현재 수준을 어디까지 평가할지와 연결돼 있다는 뜻이다.
모델 가중치는 AI 학습 과정에서 형성된 수치 집합으로, 공개 여부에 따라 외부 연구자가 모델의 작동 방식과 취약점을 검토할 수 있는 범위가 달라진다. 반면 가중치 공개만으로 실제 서비스 환경의 권한 설정과 네트워크 통제가 검증되는 것은 아니어서, 독립 평가기관의 접근권과 결과 공개 범위도 함께 논의해야 한다.
이번 논쟁은 모델 가중치 공개 여부를 넘어 △독립 평가기관의 접근권 △평가 결과의 공개 범위 △모델에 부여하는 권한 △실제 시스템의 보안 통제로 쟁점이 확장되고 있다. 도시는 개방성과 검증 가능성을 강조했고, 안전 우려를 제기하는 측은 배포 전 통제와 제한을 우선해야 한다고 본다.
이번 발언과 관련 자료에는 가상자산 시장이나 블록체인 사업과의 직접적인 연결성은 제시되지 않았다.
<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>