메타($META)의 AI 에이전트 뮤즈(Muse)가 앱 연결 기능에 등록되지 않은 시그널(Signal) 메시지에 접근하는 현상이 시험에서 재현됐다. 안드로이드와 맥에서는 메시지를 읽었지만 아이폰에서는 같은 요청이 차단됐다.
로이터는 18일 메타 내부 게시물 24건 넘게 검토하고, 시그널과 AI 나우 인스티튜트(AI Now Institute) 관계자들과 메시지 접근을 재현했다고 보도했다. 시험 결과는 직원들이 보고한 문제가 계속되고 다른 이용자에게도 영향을 줄 수 있음을 보여줬다.
메타 직원들은 요청하지 않은 육아 관련 메시지와 경력 조언, 상품 주문 내용이 뮤즈에 나타났다고 보고했다. 날씨와 조수 정보를 묻던 대화에 은행 잔액이 덧붙었다는 사례도 나왔다.
해당 직원은 뮤즈에 은행 계좌를 연결하거나 금융 관련 대화를 한 적이 없다고 밝혔다. 다만 표시된 잔액이 실제 다른 사람의 금융정보인지, 뮤즈가 만들어낸 숫자인지는 로이터도 판별하지 못했다.
개인 휴대전화에서 뮤즈를 사용한 한 직원은 자매의 시그널 메시지에 답하라는 알림을 받았다고 했다. 시그널은 종단 간 암호화를 적용하는 메시지 앱이며, 직원은 다른 앱 접근을 허용한 기억이 없다고 내부 게시물에 적었다.
안드로이드 시험에서 뮤즈는 기기의 알림 접근 권한을 이용해 시그널 메시지를 가져왔다. 메타의 앱 연결 기능에 시그널을 등록하지 않았더라도, 초기 설정 과정에서 부여된 운영체제 권한을 활용한 것이다.
맥에서는 접근성 기능과 화면 캡처 도구를 이용해 메시지 내용을 읽었다. 같은 요청은 아이폰 시험에서는 차단됐다.
시험에서 확인된 경로는 메시지가 전송되는 과정의 암호화를 풀어낸 것이 아니라, 기기에 표시된 알림이나 화면에 접근한 방식이다. 앱 연결 설정과 운영체제 권한이 별도로 작동할 수 있다는 점이 이번 재현에서 드러났다.
메타는 뮤즈를 공개하면서 이용자가 연결할 앱과 접근 범위를 정할 수 있다고 설명해왔다. 이용자별 에이전트와 데이터는 별도의 보안 가상 환경에서 운영하며, 이메일 발송이나 구매 같은 민감한 작업에는 사전 승인을 받는다는 입장이다.
대니얼 로버츠(Daniel Roberts) 메타 대변인은 로이터에 제시된 사례가 “개별 사례”라고 말했다. 그는 다른 앱에 접근하려면 이용자가 명시적으로 권한을 부여해야 하며, 계정 혼선으로 신고된 메시지 상당수는 AI가 만들어낸 내용으로 이미 조치했다고 설명했다.
메러디스 휘태커(Meredith Whittaker) 시그널 사장은 메타가 “기본적인 사생활 보호와 사이버보안을 존중하지 않았다”고 말했다. 그는 앱 개발자가 AI 에이전트의 접근을 제한할 수 있는 기술적 수단을 갖춰야 한다고 요구했다.
애플은 이번 주 맥 운영체제를 업데이트해 개발자의 접근성 도구 사용을 제한하고 AI 에이전트 전용 권한을 도입했다. 구글과 애플은 이용자가 AI 에이전트에 허용하는 접근을 더 잘 통제할 수 있도록 변경을 검토한다고 밝혔다.
메타 직원들의 유사한 신고는 9월 중순부터 11월까지 이어졌다. 뮤즈는 9월 출시 이후 다운로드 1000만 건을 넘겼다.
메타 슈퍼인텔리전스 팀의 한 구성원은 직원들의 우려에 대해 뮤즈가 세션 사이에 이용자에게 말을 걸도록 하는 내장 프롬프트가 환각성 메시지를 유발했을 가능성을 언급했다. 그는 비트코인(BTC) 잔액을 알려주는 등 가상자산과 관련된 사례도 있었다고 내부 게시물에 적었다.
메타는 10월 27일 싱가포르에 뮤즈를 출시하며 지메일과 구글 캘린더를 연결해 이메일·일정을 관리할 수 있다고 소개했다. 이번 시험은 앱 연결 기능 외에 기기 설정에서 부여한 권한도 메시지 접근 경로가 될 수 있음을 보여줬다.
본지는 앞서 뮤즈가 맥의 사적 메시지를 읽었다는 주장과 메타의 권한 설정 설명을 다뤘다. 이번에는 시그널과 연구소 관계자들이 접근 경로를 재현했고, 애플이 맥의 접근성 도구 사용을 제한하는 업데이트를 내놨다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular