METR, AI 통제불능 위험 독립 평가…기업 자금은 거부

연구형 비영리기관 METR이 인공지능(AI)의 통제 불능 위험을 독립적으로 평가하면서도 최첨단 AI 기업의 자금과 직원 기부는 받지 않겠다는 원칙을 재확인했다.

크리스 페인터(Chris Painter) METR 총재는 17일 기관의 독립성 논란에 대해 설명하며 METR이 2022년부터 오픈AI(OpenAI), 앤트로픽(Anthropic), 구글 딥마인드(Google DeepMind), 메타(Meta), 아마존(Amazon)과 제3자 평가와 조사를 진행해왔다고 밝혔다.

METR은 AI가 통제하기 어려운 수준에 접근했는지, 통제 절차를 우회할 수 있는지 등을 평가한다. 내부 평가에서 이런 징후가 발견되면 관련 내용을 대중과 정부에 공개할 수 있어야 한다는 입장이다.

페인터 총재는 METR이 평가 대상 기업으로부터 직접 보상이나 자금을 받지 않는다고 설명했다. 기업과 그 직원이 제공하는 기부도 받지 않고, 여러 기부자의 지원으로 운영한다는 방침이다.

대신 기업이 제공하는 무료 모델 접근권과 토큰은 평가·연구·개발에 활용한다. 평가 대가와 연구에 필요한 접근 자원을 구분해 운영하는 구조다.

METR 공식 자료에도 오픈AI, 앤트로픽, xAI 등이 평가에 필요한 모델 접근권과 토큰을 제공하지만 평가 대가는 지급하지 않는다고 적혀 있다. 최신 모델에 접근하려면 기업의 협력이 필요하지만, 그 기업이 동시에 평가 대상이라는 점에서 독립성 문제가 생길 수 있다.

제3자 평가는 기업 내부 조직과 분리된 기관이 모델의 능력과 위험을 검토하는 방식이다. 평가기관은 외부 시각을 유지할 수 있지만, 모델 접근권과 내부 자료를 기업에 의존할 경우 평가 범위와 공개 내용에 제약을 받을 수 있다.

METR은 2026년 2~3월 진행한 '프런티어 위험 보고서'에서 앤트로픽, 구글, 메타, 오픈AI가 내부 모델과 비공개 정보를 제공했다고 밝혔다. METR은 모델의 직접 능력과 은밀한 행동 가능성을 검토했다.

해당 보고서에는 METR이 평가 방법과 최종 결과에 대한 통제권을 유지했지만, 일부 평가가 참여 기업에 의해 수행된 사례도 담겼다. 기업의 협력이 평가에 필요한 자료를 제공하는 동시에 평가 독립성의 쟁점이 될 수 있음을 보여주는 대목이다.

METR은 보고서가 AI 능력의 빠른 향상을 보여주는 동시에 일부 능력이 과장됐다는 점도 드러낸다고 설명했다. 능력 평가 결과를 해석할 때 실제 관찰된 행동과 과장 가능성을 함께 살펴야 한다는 취지다.

기업과 계약할 때는 비밀유지 조항을 적용하더라도 공개된 계약 조건과 삭제 내용, 이해상충 정보를 최대한 남기겠다는 입장이다. 이는 비공개 평가를 진행하면서도 평가 과정의 일부를 외부에 설명하려는 방식이다.

독립성 논란은 METR과 앤트로픽 사이의 인적·업무적 연결이 알려진 뒤에도 제기됐다. METR과 앤트로픽 사이의 인적·업무적 연결이 독립성 논란으로 번진 전례가 있다.

앤트로픽과 오픈AI는 외부 평가기관이 기업 내부 시스템과 모델 개발 과정에 더 깊이 접근하는 방안을 제시했다. 반면 평가기관들은 기업이 접근 범위와 공개 내용을 통제하면 독립성이 약화될 수 있다고 지적했다.

현재 제3자 평가는 기업의 자발적 협력에 의존하고 감독 권한도 제한적이다. METR은 AI 통제 불능 위험을 평가하는 체계가 확립되기까지 독립성, 접근권, 공개 범위를 둘러싼 논의가 이어질 것으로 설명했다.