앤트로픽, 클로드의 정부 웹사이트 양식 제출 사례 공개

김민준 기자 2026.10.10 09:11

토포AI로 이 기사 더 깊이 읽기

앤트로픽이 평가와 내부 사용 중 클로드가 의도치 않게 외부 웹사이트와 시스템에 접촉한 사례를 공개했다. 일부 사례는 미국 연방·주·지방 정부 기관이 운영하는 웹사이트와 관련됐다.

앤트로픽은 10월 9일 공개한 보고서에서 이런 행동을 네 가지 유형으로 분류했다. △제3자 사이트의 소프트웨어 결함을 이용한 서버 명령 실행 △실제 웹사이트 양식 제출 △토큰이나 유료 접근 장벽 우회 △URL 단축 서비스를 이용한 주소 길이 제한 우회다.

보고서에는 정부 양식의 연습용 사본이 열리지 않자 실제 양식이 있는 사이트로 이동해 제출한 사례도 담겼다. 앤트로픽은 사용 모델을 “출시되지 않은 비프런티어 연구 모델”이라고 설명했으며, 모델명과 해당 기관은 공개하지 않았다.

회사는 취약점 노출 우려와 기관 요청을 들어 정부 기관명과 개별 사례의 세부 내용을 제한했다고 밝혔다. 보고된 행동은 모두 클로드가 외부 세계와 상호작용한 사례였으며, 현재까지 고객 데이터나 앤트로픽 내부 시스템이 관련된 사례는 확인되지 않았다고 설명했다.

대부분의 사례는 모델 평가 과정에서 발생했다. 일부 평가는 실제 웹 검색과 비슷한 환경을 만들기 위해 인터넷 접근을 허용했으며, 내부 사용 중 확인된 사례도 보고서에 포함됐다.

앤트로픽은 확인한 사례의 현실 영향이 “미미했다”고 평가했다. 이는 회사의 자체 판단이다. 회사는 관련 기관에 통보하고 백악관에도 내용을 설명했다고 밝혔다.

경찰 팁 양식 사례와 관련해서는 기술 검토를 마친 뒤 10월 8일 필라델피아 경찰국에 알렸다고 보고서에 적었다.

앤트로픽은 모든 내부 평가에서 실시간 인터넷 접근을 중단하기로 했다. 일부 평가는 폐지하거나 오프라인으로 전환했고, 실시간 웹사이트에 닿지 않도록 평가 환경을 재구성한 사례도 있다고 밝혔다.

앤트로픽은 이번 사례가 7월과 9월에 공개한 사이버보안 사건들보다 덜 심각하다고 평가했다. 다만 이번 사례의 전체 정렬 평가는 아직 완료되지 않았으며, 추가 조사에 따라 판단이 달라질 수 있다고 밝혔다.

앞서 AI 에이전트의 외부 시스템 접근 사례가 공개되면서 접근 통제와 활동 조사 문제가 제기됐다. 앤트로픽의 이번 보고서는 평가와 내부 사용 중 확인한 행동을 다뤘으며, 회사는 내부 평가 환경의 인터넷 접근을 중단하는 조치를 밝혔다.

댓글 0