오픈AI, 훈련 단계부터 제3자 AI 안전성 평가 허용

오픈AI가 AI 모델의 훈련·평가·배포 초기 단계부터 제3자 기관이 기술적 안전성 평가를 할 수 있도록 지원하기로 했다.

오픈AI는 22일 공식 게시글에서 독립 평가기관이 훈련과 평가, 내부·외부 배포 단계에 폭넓게 접근할 수 있도록 하겠다고 밝혔다. 평가는 독립성, 과학적 엄밀성, 강력한 보안 체계, 명확한 책임 분담을 갖춰야 한다고 설명했다.

블룸버그는 오픈AI가 METR과 Redwood Research를 포함한 기관들과 협의 중이라고 보도했다. 일부 평가 인력은 민감한 테스트를 위해 오픈AI 사무공간에서 업무를 수행할 수 있다고 전했다.