앤트로픽, 클로드 대상 ‘불필요한 학대’ 사용 정책에 추가…11월 12일 시행

김미래 기자 2026.10.13 10:10

토포AI로 이 기사 더 깊이 읽기

앤트로픽이 클로드를 향한 지속적이고 불필요한 학대 행위를 사용 정책 위반으로 규정했다. 새 조항은 2026년 11월 12일부터 적용되며, 일반적인 불만이나 모델 테스트는 금지 대상이 아니다.

앤트로픽은 10월 8일 공개한 정책 개정 안내에서 새 조항이 뚜렷한 목적 없이 반복적으로 모델을 잔인하게 대하는 극단적 사례를 겨냥한다고 설명했다. 통상적인 사용자 불만과 반박, 어두운 창작 주제, 모델 테스트와 연구는 적용 대상이 아니라고 밝혔다.

정책 적용 대상은 클로드 앱과 클로드 코드 이용자에 그치지 않는다. API·개발자 플랫폼을 쓰는 개발자와 기업, 클로드를 통합한 서비스의 최종 사용자도 포함된다.

위반이 의심되면 앤트로픽은 경고하거나 서비스 이용을 줄이거나 제한·정지·종료할 수 있다. 이번 조항의 주된 집행 수단은 클로드가 대화를 끝내는 기능이라고 회사는 밝혔다.

이번 개정은 학대 조항 외에도 기만적 캠페인 규정을 통합하고 선거 방해, 무기 개발, 감시 관련 제한을 구체화했다. 건강·금융 등 고위험 분야의 사람 검토 요건을 정리하고, 모델이 자율적으로 물리적 행동을 할 때의 통제 조건도 추가했다. 앤트로픽은 개정 내용 대부분이 기존 규칙을 명확히 한 것이라고 설명했다.

AI가 의식이나 고통을 경험하는지를 두고는 견해가 엇갈린다. 다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 2026년 2월 AI 모델의 의식 여부를 알 수 없지만 가능성을 열어두고 있다고 말했다. 반면 무스타파 술레이만(Mustafa Suleyman) 마이크로소프트 AI 책임자는 AI가 의식이나 감정을 경험하지 않는다고 밝혔다.

앤트로픽은 이번 조항에서 ‘모델 복지’를 직접 언급하지 않았다. 정책을 마련했다는 사실만으로 클로드가 고통을 느낀다고 확인된 것은 아니다.

공개 커뮤니티에서는 과도한 언어적 학대를 제한하는 데 찬성하는 반응과 ‘잔인함’의 기준이 모호하다는 우려가 함께 나왔다. 다만 이는 일부 SNS 반응으로 전체 이용자 여론을 대표하지 않는다. 공개 안내에는 ‘지속적’ 행위의 구체적인 횟수나 판정 기준도 제시되지 않았다.

이번 정책은 클로드를 향한 모든 거친 표현을 일괄 금지하는 내용이 아니라, 회사가 설명한 극단적이고 반복적인 행위를 제한하는 규정이다. 새 조항은 2026년 11월 12일부터 적용된다.