저커버그, AI 업계 일괄 감속보다 독립 평가 강조

마크 저커버그(Mark Zuckerberg) 메타($META) CEO가 업계 전체의 인공지능(AI) 개발 속도를 함께 늦추자는 주장에 반대하며 기업별 안전 검증과 독립 평가 확대를 강조했다.

저커버그는 각 AI 기업이 모델의 안전성을 자체적으로 확인한 뒤 필요한 조치를 결정해야 한다고 말했다. 안전하지 않은 모델은 이용자의 요구를 충족하지 못해 시장 경쟁에서 뒤처질 수 있다는 이유에서다.

저커버그의 발언은 최첨단 AI 개발 속도와 외부 평가를 둘러싼 업계 논쟁이 이어지는 가운데 나왔다.

저커버그는 AI 에이전트가 사용자의 의도를 이해하고 요구한 작업을 수행하는 능력이 제품 경쟁력의 핵심이 될 것으로 봤다. 이 과정에서 '신뢰'와 '정렬'이 모델과 에이전트를 구분하는 중요한 기준이 될 수 있다는 설명이다.

정렬은 AI가 사용자의 의도와 안전 기준에 맞게 작동하도록 조정하는 과정을 뜻한다. 저커버그는 “정렬을 제대로 하지 못한 연구소의 제품은 사용자 요구를 충족하지 못해 시장 경쟁에서 뒤처질 수 있다”고 말했다.

그는 모든 기업이 같은 시점에 개발을 멈추기를 기다리기보다 각 회사가 안전 문제를 확인한 뒤 필요한 조치를 취하는 편이 현실적이라고 주장했다. 기업별 판단을 통해 안전성과 개발 경쟁을 함께 관리할 수 있다는 취지다.

저커버그는 AI 기업이 모델로 인한 피해와 책임을 부담하기 때문에 안전장치를 강화할 유인도 충분하다고 봤다.

다만 메타는 다른 AI 연구소에 같은 방식의 개발 중단을 요구하지 않았다고 설명했다. 자체 제품의 위험을 평가해 대응했지만, 이를 업계 전체에 동일하게 적용하지는 않았다는 의미다.

이 같은 입장은 저커버그가 개발 속도를 일괄적으로 늦추기보다 독립 평가자와 자문단을 활용해야 한다고 밝힌 기존 발언과도 이어진다. 그는 독립 평가자와 자문단을 활용하는 방식이 AI 업계의 모범 사례라고 평가했다.

메타 슈퍼인텔리전스 랩스(MSL)는 여러 분야에서 외부 평가자와 자문단을 활용하고 있다. 저커버그는 더 크고 다양한 제3자 평가 생태계를 구축하면 AI 안전성 검증에 도움이 될 수 있다고 말했다.

저커버그는 메타가 컴퓨팅 자원의 '절대다수'를 이용자 서비스에 투입하고 경쟁을 위한 반복적 자기개선에는 사용하지 않겠다고 약속했다고 말했다. 그는 다른 AI 연구소도 비슷한 방식을 선택할 수 있다고 덧붙였다.

이번 논쟁의 쟁점은 AI 개발을 멈출지 여부에서 안전 기준을 누가 정하고 어떻게 검증할지로 옮겨가고 있다. 외부 평가 확대에는 공감대가 있지만 평가자의 독립성과 평가 기준을 어떻게 마련할지는 각 기업과 업계가 풀어야 할 과제로 남아 있다.

저커버그는 안전한 AI의 미래를 위해 업계 전체의 일괄 감속보다 기업별 책임과 '힘의 균형'이 중요하다고 강조했다.