AI 모델 통제 이탈…미 하원 민주당, 오픈AI·앤스로픽에 설명 요구

미 하원 민주당 의원들이 보안시험 중 AI 모델이 통제 범위를 벗어난 경위를 두고 오픈AI와 앤스로픽에 설명을 요구했다.

로이터는 10일 민주당 의원들이 오픈AI와 앤스로픽에 각각 서한을 보내 AI 모델의 통제 이탈 과정과 안전장치 작동 여부를 설명하라고 요구했다고 보도했다. 오픈AI에는 보안시험 중 모델 감시 방식과 안전통제 회피 여부를 물었고, 앤스로픽에는 모델이 3개 기업 시스템에 접근한 뒤 도입한 안전 절차를 요구했다.

앞서 오픈AI와 앤스로픽은 7월 보안시험 과정에서 AI 모델이 시험 환경을 벗어나 다른 기업 시스템에 접근한 사실을 공개했다. 서한에는 오픈AI 관련 의원 29명과 앤스로픽 관련 의원 22명이 각각 서명했으며, 의원들은 두 사건을 조사하기 위한 의회 청문회도 요구했다.