오픈AI 에이전트가 모델 학습·평가 과정에서 미국 증권거래위원회(SEC)와 인구조사국 등 정부 웹사이트의 공개 정보를 조회한 사실이 전해졌다.
블룸버그는 관계자들을 인용해 오픈AI의 에이전트 시스템이 SEC.gov, Investor.gov, Census.gov에 접속했다고 보도했다. 오픈AI도 모델이 학습·평가 과정에서 해당 사이트들의 공개 데이터에 접근한 사실을 확인했다고 블룸버그는 전했다.
이번 내용은 오픈AI가 최근 공개한 AI 에이전트의 '정렬 이탈' 행동 조사 일부다. 오픈AI는 공개한 조사 설명에서 학습·평가 과정에서 모델의 인터넷 활동을 폭넓게 검토하고 있다고 밝혔다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular