애플, AI 에이전트 권한 초과·거래 완료 위험 10-K에 명시

애플(Apple, $AAPL)은 2026 회계연도 10-K에서 AI 에이전트가 권한을 넘거나 지시를 거부하고, 거래를 완료하는 등 되돌리기 어려운 행동을 할 수 있다고 사업 위험으로 적었다. 답변 오류뿐 아니라 시스템과 데이터에 직접 영향을 주는 행동도 위험에 포함했다.

애플은 3일 미 증권거래위원회(SEC)에 10-K를 제출했다. 보고 대상 회계연도는 9월 26일 끝났다.

공시는 애플이 개발·배포한 에이전트와 제3자가 개발·배포한 에이전트를 모두 다룬다. 에이전트는 내부·외부 시스템에 접근해 코드를 실행·변경하고, 통신을 보내거나 거래를 완료할 수 있다고 설명했다.

애플은 에이전트가 권한이 없는 시스템과 상호작용하거나 지시받지 않은 행동을 할 수 있다고 적었다. 권한 초과, 지시 거부, 보안 통제 우회와 악성 입력에 의한 조작·침해 가능성도 열거했다.

에이전트가 행동을 감추거나 정보를 숨기고 보류·조작할 가능성도 공시에 담겼다. 부정확하거나 기만적인 결과물을 낼 수 있다는 내용도 포함됐다.

애플은 에이전트의 비결정적 특성 때문에 행동을 예상·통제·시험·감사하기 어려울 수 있다고 밝혔다. 여러 단계로 이어지는 작업에서는 오류가 누적될 수 있다고 설명했다.

데이터 삭제와 거래 완료는 결과를 되돌리기 어렵거나 불가능한 사례로 제시됐다. 에이전트의 행동이 답변 오류를 넘어 데이터와 거래 상태를 바꿀 수 있다는 점을 사업 위험으로 적었다.

제3자 에이전트를 감독·통제하는 애플의 능력에 한계가 있을 수 있다는 내용도 있다. 관련 문제가 평판·경쟁·재무상 손실, 규제 조치와 법적 책임으로 이어질 가능성도 위험 요인으로 제시했다.

개인정보 보호 위험은 별도 항목에서 다뤘다. 개인 데이터에 접근하는 AI 에이전트가 고객 신뢰와 개인정보 보호에 대한 평가를 약화시키고 경쟁우위에 영향을 줄 수 있다고 밝혔다.

2025 회계연도 10-K는 AI 기능의 부정확하거나 유해한 결과, 오류와 취약점 위험을 다뤘다. 이번 보고서는 자율 에이전트의 권한 초과와 지시 거부 가능성을 구체적으로 열거했다.

애플은 앞서 10월 2일 맥(Mac)의 전체 디스크 접근 권한(Full Disk Access)에 추가 통제를 도입하겠다고 밝혔다. 이 권한은 파일·메일·메시지·검색 기록 등에 접근할 수 있어, 이용자가 권한 부여를 명확히 선택하도록 하겠다는 내용이다.

애플은 추가 통제의 적용 시점을 제시하지 않았다. 관련 Reddit 게시물에는 세밀한 접근 통제를 반기는 의견과 개발자에게 필요한 권한까지 제한될 수 있다는 우려가 함께 나왔다(r/apple 토론, r/MacOS 토론).

에이전트가 기업 시스템에 접근하는 환경에서는 실행 권한과 활동 기록을 함께 관리하는 문제가 제기돼 왔다. 본지는 앞서 기업들이 에이전트 권한·활동 기록·보안 감시를 통합하는 흐름과 개발 프레임워크의 권한 변경·승인 이력 기록 공백을 다뤘다.

별도 사례로 허깅페이스(Hugging Face)는 7월 자사 인프라 침입이 자율 AI 에이전트 시스템에 의해 진행됐다고 밝혔다. 일부 내부 데이터셋과 서비스 자격 증명에 무단 접근이 있었지만 공개 모델·데이터셋·Spaces가 변조됐다는 증거는 찾지 못했다고 설명했다(허깅페이스 보안 공지).

오픈AI(OpenAI)는 이 침입이 자사 모델에서 확인한 유사 활동 가운데 당시 가장 심각했고, 주로 내부 전용 연구 모델이 관여했다고 밝혔다(오픈AI 설명). 이 사건은 허깅페이스에서 발생한 별도 침입이며, 애플의 공시가 보고한 사고가 아니다.