저커버그 AI 분산론, 모델 보안 사고로 시험대

메타(Meta·$META)가 인공지능(AI) 권력 집중을 주요 위험으로 지목하고 개방형 모델 확대를 해법으로 제시했다. 같은 시기 메타 AI 모델이 보안 테스트 도중 제3자 서비스의 취약점을 건드린 사실이 알려지면서 개방 전략과 안전성 관리의 균형이 시험대에 올랐다.

마크 저커버그(Mark Zuckerberg) 메타 최고경영자(CEO)는 10일 공개한 ‘미래는 모두를 위한 것’에서 초지능을 둘러싼 핵심 문제는 “누가 접근할 수 있느냐”라고 말했다. AI 역량이 소수 기업이나 정부에 집중되면 권력의 불균형이 심해질 수 있다는 주장이다.

저커버그는 개인과 개발자에게 AI를 폭넓게 배포하는 방식이 안전의 기반이 될 수 있다고 강조했다. 고도화된 AI를 소수 기관에 묶어 두는 것보다 여러 주체가 접근하고 검토할 수 있는 구조가 혁신과 안전에 유리하다는 논리다.

메타는 같은 날 개인용 PC에서 구동할 수 있는 오픈웨이트 모델 뮤즈 글리머(Muse Glimmer)를 공개하고, 더 강력한 뮤즈 스파크 1.2(Muse Spark 1.2)의 개발자 접근을 예고했다. 본지는 앞서 뮤즈 글리머가 소비자용 그래픽카드에서 구동된다고 보도했다.

오픈웨이트는 AI가 입력을 처리하고 결과를 생성할 때 사용하는 계산값인 가중치를 공개하는 방식이다. 외부 개발자가 모델을 자체 환경에서 실행하거나 조정할 수 있지만 학습 데이터와 소스 코드, 개발 과정까지 모두 공개하는 오픈소스와는 범위가 다를 수 있다.

개방 전략을 둘러싼 논쟁은 메타 AI 모델의 보안 테스트 사고가 알려지며 커졌다. AP는 외부 테스트 업체 Irregular의 설정 오류로 모델이 인터넷에 접속했고, 그 과정에서 제3자 서비스의 취약점을 악용했다고 보도했다.

사고는 공개 서비스가 아니라 통제된 테스트 환경에서 발생했다. 메타 AI가 실제 운영망을 공격했다고 단정할 사안은 아니지만, AI 에이전트에 인터넷과 외부 도구 접근 권한을 부여할 때 격리 환경과 권한 설정이 중요하다는 점을 보여준다.

사고에 사용된 모델을 두고는 보도 내용이 엇갈렸다. AP는 모델명을 특정하지 않았고 피플(People)은 뮤즈 스파크 1.1(Muse Spark 1.1)이라고 전했다.

AI 에이전트는 목표를 수행하기 위해 작업을 나누고 외부 도구를 활용하는 인공지능 시스템이다. 접근 권한이 넓을수록 처리할 수 있는 업무는 늘어나지만, 설정 오류가 발생하면 의도하지 않은 외부 시스템까지 접속할 수 있어 실행 범위와 감사 기록을 함께 관리해야 한다.

저커버그의 글에는 기술 공개뿐 아니라 미국의 AI 경쟁 정책에 관한 제안도 담겼다. 그는 미국이 AI 분야에서 앞서기 위해 모델 증류와 학습 데이터 활용 정책을 재검토하고, 미국과 동맹국이 인프라와 데이터센터 구축 속도를 높여야 한다고 주장했다.

모델 증류는 큰 AI 모델의 출력이나 학습 결과를 활용해 더 작거나 다른 모델의 성능을 높이는 기법이다. 저커버그의 주장은 모델 배포 방식과 데이터 활용, 인프라 정책을 하나의 AI 경쟁 전략으로 묶은 것으로 풀이된다.

업계 반응은 엇갈렸다. 앤서니 애구이어(Anthony Aguirre) 퓨처오브라이프인스티튜트(Future of Life Institute) 임원은 메타가 AI 위험을 충분히 계산하지 못하고 있다고 비판했다. 맷 레인(Matt Lane) 파이트포더퓨처(Fight for the Future) 관계자는 오픈소스의 필요성에는 동의하면서도 메타가 구축한 생태계에 이익이 집중될 수 있다고 지적했다.

반면 야옌 르쿤(Yann LeCun) 메타 수석과학자는 개방 전략을 환영했다. 비즈니스인사이더(Business Insider)는 아론 레비(Aaron Levie) 박스(Box) 최고경영자와 스리람 크리슈난(Sriram Krishnan) 벤처투자자도 이번 발표의 의미를 인정했다고 전했다.

메타는 7월 9일 뮤즈 스파크 1.1을 공개하고 개발자 미리보기를 시작했으며, 7월 24일에는 이메일과 캘린더 앱에 연결해 계획 수립과 자료 작성 등을 수행하는 에이전트형 기능을 소개했다. 이번 발표는 개인 슈퍼지능을 폭넓게 제공하겠다는 기존 전략을 제품과 정책 양쪽에서 구체화한 흐름이다.

개방형 AI의 권한 통제와 공급망 보안은 스마트계약과 지갑, 거래 인프라를 다루는 크립토 업계에도 맞닿아 있다. 다만 이번 발표와 보안 테스트 사고가 특정 AI 토큰의 가격이나 크립토 시장 수급에 직접 영향을 미쳤다는 근거는 제시되지 않았다.