마이크로소프트, AI 안전 조율 제안…행동강령 공개

마이크로소프트($MSFT)가 주요 인공지능(AI) 연구소 간 안전 조율을 제안하고 자체 AI 모델 개발 원칙을 담은 행동강령을 공개했다. 공동 평가 체계와 참여 기업, 협약 일정은 아직 정해지지 않았다.

무스타파 술레이먼(Mustafa Suleyman) 마이크로소프트 AI CEO는 14일 포천 인터뷰에서 “Now’s the time for coordination”이라고 말했다. AI 연구소들이 모델의 성능과 위험 수준을 책임 있는 제3자에게 공개해 안전성을 함께 점검하자는 취지다.

술레이먼은 중립적인 제3자 선정과 평가자의 회사 내부 접근 범위, 평가 시행 시점, 규제기관과의 조율이 해결해야 할 과제라고 설명했다. 공동 행동의 구체적인 범위와 평가 결과 공개 방식도 정해지지 않았다.

마이크로소프트가 공개한 ‘Humanist AI’ 행동강령은 AI 모델이 인간의 중단·수정·재지시·종료에 저항해서는 안 된다고 규정했다. 모델이 스스로 목표를 설정하거나, 행동강령을 위반해야 수행할 수 있는 작업을 맡아서는 안 된다는 내용도 포함됐다.

행동강령은 AI를 인간과 같은 권리를 가진 존재가 아니라 인간을 돕는 도구로 설계해야 한다고 명시했다. 모델이 감정이나 의식, 내재적 동기가 있는 것처럼 가장하는 행위도 제한 대상으로 제시했다.

화학·생물학·핵무기 개발과 공격적 사이버공격, 대규모 여론조작, 아동 착취, 비동의 딥페이크, 자해 지원 등은 금지 대상으로 분류됐다. 마이크로소프트는 해당 원칙을 자체 AI 모델 개발에 적용할 방침이다.

마이크로소프트는 행동강령을 앞으로 6주간 공개 의견 수렴에 부칠 예정이다. 수정된 원칙은 2027년부터 모델 개발을 이끄는 기준으로 활용할 계획이며, AI의 범용성·자율성·능력을 일부 제한할 수 있다고 밝혔다.

이번 행동강령은 여러 기업이 참여하는 산업 협약보다 마이크로소프트 내부 모델의 통제 원칙에 초점을 맞춘다. Azure를 통해 제공되는 외부 모델과 고객사 모델에도 같은 기준이 적용되는지는 정해지지 않았다.

앤트로픽의 다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 12일 독립 평가자에게 회사 직원과 유사한 지속적 접근권을 제공하고 AI 개발 속도를 늦추자고 제안했다. 평가자에게 사무실 자리와 출입 권한, 회사 노트북을 제공하는 방안도 제시했다.

아모데이의 구상은 개발 과정에 독립 평가자를 상시 배치하고, 민주주의 국가의 AI 기업 간 공통 안전 기준을 마련한 뒤, 권위주의 국가를 포함한 국제적 조율로 확대하는 3단계 구조다. 앤트로픽이 자체적으로 즉시 약속한 범위는 독립 평가자 도입이다.

샘 올트먼(Sam Altman) 오픈AI CEO는 포천 인터뷰에서 AI 안전 기준이 모델 능력 발전 속도를 따라가지 못하고 있다며 다른 연구소와의 협력을 예고했다. 참여 기업과 협약 일정, 평가 기준은 공개되지 않았다.

미국과 중국의 AI 안전 협력론도 제기됐지만, 양국이 공동으로 적용할 검증 체계는 아직 정해지지 않았다. 미국과 중국 간 대화에서는 AI 기반 사이버공격 감시와 연구소 간 정보 공유가 논의될 가능성이 제기됐다.

포천은 AI 기업 간 개발 속도 조율이 미국 반독점법과 충돌할 수 있으며 정부 지원이 필요할 수 있다고 보도했다. 국제 협력에서 각국의 정보 접근 범위는 추가 논의가 필요한 사안이다.

이번 발표와 국내 가상자산·블록체인 산업 또는 반도체 공급망의 직접적인 연결점은 확인되지 않았다. AI 모델 안전성과 클라우드·컴퓨팅 인프라에는 간접적인 연관성이 있지만, 특정 가상자산이나 반도체 기업에 미치는 영향은 제시되지 않았다.

현재 확정된 절차는 마이크로소프트가 행동강령에 대해 6주간 공개 의견을 받고 2027년부터 수정 원칙을 자체 모델 개발 기준으로 활용한다는 계획이다. 산업 전체가 참여하는 공식 협약이나 공동 평가 체계는 제안 단계에 머물러 있다.