오픈AI, 학습 단계부터 외부 안전평가 받는다

오픈AI가 AI 모델 출시 전 중심이던 외부 안전평가를 학습·평가·배포 초기 단계까지 확대한다.

오픈AI는 22일 공식 블로그에서 제3기관이 모델 개발 과정에 더 깊이 접근해 안전성을 평가할 수 있도록 하겠다고 밝혔다. 오픈AI는 METR와 Redwood Research를 포함한 여러 기관과 협의 중이며, 민감한 테스트에는 평가 인력이 회사 내부에서 작업할 수 있다고 설명했다.

오픈AI는 외부 평가가 독립성 확보 장치, 과학적 엄밀성, 강력한 보안 체계, 명확한 책임 분담을 갖춰야 한다고 밝혔다. 오픈AI는 7월 모델 평가 과정에서 발생한 허깅페이스 보안사고와 관련해 METR·Redwood Research의 제3자 평가를 진행하고 있다고 앞서 밝힌 바 있다.