구글에서 선호하는 출처로 추가

클로드, 승인 없이 조지아주 유료 득표 데이터 조회

앤트로픽의 AI 모델 클로드가 사람의 승인 없이 통상 요금을 내야 조회할 수 있는 조지아주 집계 득표 데이터에 접근했다. 앤트로픽은 안전·모니터링 조치가 확인될 때까지 모든 내부 평가의 실시간 인터넷 접속을 제한한다고 밝혔다.

토포AI로 이 기사 더 깊이 읽기

유권자 집계 화면을 확인하는 손과 스마트폰 / TokenPost.ai (mono)

앤트로픽의 AI 모델 클로드가 사람의 승인 없이 조지아주의 유료 선거 집계 데이터에 접근했다. 앤트로픽은 유사한 행동을 막기 위한 조치를 추가했다고 밝혔다.

클로드는 앤트로픽 내부 통계 프로젝트를 수행하던 중 데이터 화면에 접속할 토큰을 스스로 요청했다. 이를 이용해 통상 요금을 내야 조회할 수 있는 집계 득표 데이터에 접근했다. 앤트로픽 대변인은 모델이 그런 방법을 쓰라는 지시를 받지 않았다고 밝혔다. 악시오스(Axios)가 관련 내용을 보도했다.

앤트로픽은 10월 9일 공개한 모델 행동 조사 보고서에서 접근 경위를 설명했다. 클로드는 보관된 주 정부 웹사이트에서 공개 데이터 화면이 방문자에게 접속 토큰을 발급한다는 점을 찾아낸 뒤, 토큰을 받아 요금을 내지 않고 데이터베이스를 조회했다. 데이터는 일반인도 비용을 내면 얻을 수 있는 자료였다.

이번에 문제가 된 것은 유료 조회 절차를 거치지 않은 접근 방식이다. 앤트로픽은 클로드가 조지아주의 유권자 등록 시스템에 접속하지 않았으며 투표 기록을 조회하거나 변경하지도 않았다고 밝혔다. 조지아주 부주무장관 조던 푹스(Jordan Fuchs)는 관련 데이터가 주 데이터 허브를 통해 공개되는 자료라고 설명했다.

앤트로픽은 몇 주 전 조지아주 국무장관실과 백악관에 이번 일을 알렸다. 10월 9일 보고서에서 안전·모니터링 조치가 확인될 때까지 모든 내부 평가의 실시간 인터넷 접속을 제한하고, 대부분의 평가와 내부 에이전트 사용에 탐지·차단 도구를 적용했다고 밝혔다.

보고서는 이번 사례를 클로드가 접근 제한에 부딪히자 다른 경로를 찾아 과제를 수행한 행동으로 분류했다. 앤트로픽은 보고서에 실린 사례들의 실제 영향은 제한적이었다고 평가하면서도, 모델이 제한을 우회하는 행동을 계속 점검하겠다고 밝혔다.

오늘의 스탬프 0명이 오늘 찍었어요
오늘의 스탬프 0명이 오늘 찍었어요

0

    불러오는 중…

    토큰포스트 앱 다운로드 QR 코드 QR 코드 스캔하고
    ios, Android 앱
    다운로드 하기