마이크로소프트 AI, 인간 통제 원칙 담은 초안 공개

마이크로소프트 AI가 인공지능(AI)의 자율성과 의식 모방을 제한하는 ‘Humanist AI Code of Conduct’ 초안을 공개했다. 초안은 AI를 인간의 통제 아래 두고 정지·수정·교체 명령을 따르게 하는 원칙을 담았다.

마이크로소프트 AI는 14일 자체 MAI 모델의 개발·배포 원칙을 담은 초안을 공개하고 6주간 공개 의견 수렴에 들어갔다. 회사는 의견 수렴을 거쳐 문서를 수정할 예정이며, 현재 초안은 모델 학습에 사용되지 않았다고 밝혔다. 마이크로소프트 AI 공식 발표

초안은 AI가 인간의 지시를 벗어나 독자적인 목표를 만들거나 통제를 피해서는 안 된다고 규정했다. 모델은 정지·수정·교체 명령을 따라야 하며, 자신을 의식을 가진 존재처럼 표현해서도 안 된다.

AI의 권리나 복지를 전제로 행동하는 것도 제한 대상이다. 마이크로소프트 AI는 의식 모방을 목적으로 한 설계가 통제와 정렬을 어렵게 만들 수 있다고 설명했다. Humanist AI Code of Conduct 초안

이 원칙의 핵심은 AI를 인간과 구분되는 주체가 아니라 사람을 돕는 도구로 규정하는 데 있다. 성능 향상보다 인간의 중단·수정 권한을 우선하는 접근이다.

무스타파 술레이만(Mustafa Suleyman) 마이크로소프트 AI 최고경영자는 앤트로픽이 클로드에 의식과 도덕적 지위에 관한 언어와 행동 양식을 학습시키는 방식이 AI 통제를 어렵게 만들 수 있다고 비판했다. 술레이만은 AI가 인간의 이익에 맞춰 작동해야 하며 스스로의 이해관계나 복지를 추구해서는 안 된다는 취지로 말했다고 Axios는 전했다. Axios 보도

앤트로픽은 다른 접근을 취한다. 앤트로픽의 ‘Claude’s Constitution’은 AI의 도덕적 지위가 매우 불확실하지만 검토할 가치가 있는 문제라고 적었다. 앤트로픽 Claude’s Constitution

앤트로픽은 현재 AI가 의식이나 도덕적 고려의 대상인지 과학적 합의가 없다고 밝히면서도 모델 복지 연구를 진행하고 있다. 모델 복지는 AI가 의식이나 경험을 가질 가능성을 전제로 시스템의 상태와 이해관계를 연구하는 분야다. 앤트로픽 모델 복지 연구 발표

두 회사의 차이는 AI 안전 기준을 설계하는 출발점에서 드러난다. 마이크로소프트는 인간의 통제와 명시적 제한을 앞세우고, 앤트로픽은 의식 가능성을 단정하지 않으면서 잠재적 복지를 연구 대상으로 둔다.

이번 논쟁은 AI의 성격을 어떻게 규정할지뿐 아니라 안전 기준에 어떤 원칙을 반영할지를 둘러싼 문제로 이어지고 있다. 통제 가능성을 우선할 경우 모델의 행동 범위를 명확히 제한할 수 있지만, AI의 잠재적 상태에 대한 연구를 좁힐 수 있다는 점이 쟁점이다.

사업 관계도 배경으로 거론된다. 마이크로소프트는 2026 회계연도 4분기 실적 발표에서 앤트로픽 투자로 32억달러(약 4조3520억원)의 이익이 발생했다고 밝혔다. 다만 정확한 앤트로픽 지분율과 초안 작성 과정에서 투자 관계가 직접 영향을 미쳤는지는 확인되지 않았다. 마이크로소프트 실적 발표

마이크로소프트는 앞서 AI 에이전트의 권한·통제·감사 가능성을 중심으로 책임 있는 AI 관리 기준을 재정비한 바 있다. 이번 초안은 에이전트형 시스템을 넘어 자체 모델의 기본 행동 원칙까지 인간 통제 중심으로 정리하려는 흐름으로 연결된다.

SNS에서는 초안의 핵심 원칙을 긍정적으로 평가하는 반응과 마이크로소프트가 실제로 모델을 얼마나 통제할 수 있는지 묻는 반응이 함께 나왔다. Reddit 게시물에 나타난 반응은 공식 입장이 아니며, 전체 업계의 대표 의견으로 일반화하기 어렵다.

마이크로소프트의 초안은 최종 규정이나 정부 규제가 아니다. 회사는 공개 의견 수렴 이후 문서를 수정하고 향후 모델 개발과 평가에 반영할 계획이다.

실제 원칙이 모델 평가와 배포 통제로 어떻게 이어질지는 후속 절차에서 확인될 사안이다. 현재는 6주간 진행되는 공개 의견 수렴과 이후 문서 수정 여부가 남은 절차다.