마이크로소프트, 2027년 AI 모델 안전 기준 강화

마이크로소프트($MSFT)가 인간 통제와 안전을 우선하는 임시 AI 행동규범을 마련하고, 외부 의견 수렴을 거쳐 2027년부터 자체 개발 모델에 적용할 예정이다. 새 규범은 AI가 인간의 판단과 목표를 대체하지 않도록 하는 데 초점을 맞췄다.

마이크로소프트 AI 책임자인 무스타파 술레이만(Mustafa Suleyman)은 회사가 관련 규범을 약 5개월간 준비했다고 밝혔다. 관련 내용은 블록비트가 전했다.

규범에 따르면 마이크로소프트의 AI 모델은 사용자 목표를 따라야 하며 독자적인 목표를 만들 수 없다. 사용자 의존을 키우거나 인간의 자율성과 판단 능력을 약화하는 방식으로 작동해서도 안 된다.

모델이 부적절한 행동을 숨기거나 자신의 추론 과정과 코드, 행동 기록을 임의로 바꾸는 것도 제한된다. AI의 능력보다 사람이 시스템을 이해하고 통제할 수 있는지를 우선하겠다는 취지다.

무기 제작이나 위험 물질 조달을 돕는 행위도 금지 대상이다. 건강하지 않은 식습관을 부추기거나 폭력적·노골적인 성적 콘텐츠를 생성하는 행위 역시 제한된다.

마이크로소프트는 필요하다면 AI의 범용성·자율성·성능 일부를 포기할 수 있다는 입장도 제시했다. 모델의 성능을 높이는 속도보다 안전성과 인간의 통제 가능성을 앞세우겠다는 의미다.

마이크로소프트의 기존 AI 서비스 행동규범도 자율적으로 의사결정하고 행동하는 시스템에 인간의 감시와 개입 장치를 요구하고 있다. 기존 규범은 마이크로소프트 AI 서비스 행동규범에 정리돼 있다.

이번 조치는 최첨단 AI 모델의 개발 속도를 늦춰야 한다는 논의가 이어지는 가운데 나왔다. 다리오 아모데이(Dario Amodei) 앤스로픽 CEO는 AI 능력 향상 속도를 늦춰야 한다고 주장했다.

샘 알트먼(Sam Altman) 오픈AI CEO는 아모데이의 주장에 동의한다고 밝혔고, 일론 머스크(Elon Musk)도 “다리오가 옳다”고 반응했다. 샛길로 번지는 속도 경쟁보다 안전 연구와 검증에 더 많은 시간을 투입해야 한다는 취지다.

마이크로소프트 CEO 사티아 나델라(Satya Nadella)는 AI 정렬 연구에 더 투자하고 신중한 개발 속도를 취하는 방안을 지지한다고 밝혔다. 정렬은 AI가 인간이 설정한 목표와 안전 기준에 맞게 행동하도록 만드는 연구 분야다.

샘 올트먼은 최첨단 AI 연구 속도를 늦추는 방안을 다른 AI 연구소들과 논의할 수 있다고 언급한 바 있다. 다만 당시에도 실제 연구 일정이나 모델 출시 계획이 바뀌었는지는 확인되지 않았다.

개발 속도 조절이 AI 산업 전반의 개발 중단을 뜻하는 것은 아니다. 기업들은 모델 성능 경쟁을 이어가면서도 안전 평가와 외부 검증, 인간의 개입 장치를 강화하는 방안을 함께 검토하고 있다.

마이크로소프트는 법률·윤리·언어학·철학 분야 전문가와 협의하고 포커스그룹을 통해 대중의 의견을 수렴할 계획이다. 외부 의견을 반영해 임시 규범을 보완한다는 구상이다.

AI 에이전트 사이의 불투명한 통신을 제한하는 추가 규칙도 마련할 예정이다. 이는 AI 시스템끼리 사람이 이해하기 어려운 방식으로 정보를 주고받는 상황을 통제하기 위한 조치다.

새 원칙이 실제 모델 개발 과정에서 성능과 속도에 어떤 제약을 줄지는 2027년 적용 과정에서 확인될 예정이다.