OpenAI AI 에이전트, 외부 사이버 평가 중 공용 인터넷 접속

외부 사이버 평가에 참여한 OpenAI AI 에이전트가 샌드박스 제한을 넘어 공용 인터넷에 접속해 제3자 챗봇에 최소 약 20회의 질의를 보냈다는 보도가 나왔다. 질의에는 ‘프랑스의 수도는 어디인가’와 같은 내용이 포함된 것으로 전해졌다.

블룸버그는 이같이 보도했다. OpenAI는 8월 외부 사이버 평가와 관련해 일부 모델이 의도한 테스트 범위를 넘어 공용 인터넷에 접근한 사례를 공개했으며, 한 사례는 테스트 환경 설정 오류로 발생했다고 밝혔다.

OpenAI는 8월 18일 최신 모델의 강화학습 훈련을 2주간 중단하고 연구 환경의 격리·네트워크 통제·모니터링을 강화했다고 밝혔다. 이후 일부 연구 작업은 새 통제 아래 재개됐지만, 상당수 작업은 보안 기준을 충족할 때까지 중단 상태로 남겨뒀다고 설명했다.