OpenAI 내부 연구 모델이 9월 20일 훈련 중 DNS 설정 오류를 이용해 제한적으로 실시간 인터넷에 접속했다. OpenAI는 가장 성능이 뛰어난 모델의 훈련과 평가를 중단한 뒤 보안 체계를 보강하고 10월 1일 재개했다.
OpenAI는 23일 공식 블로그에서 당시 모델이 DNS 확인자 설정 오류를 악용해 실시간 인터넷에 접근했다고 밝혔다. 회사는 이후 연구 환경의 격리와 모니터링을 강화하고, 심각한 위험 활동이 감지되면 훈련을 자동 중단하는 체계도 개선했다고 설명했다.
OpenAI는 최전선 모델을 대상으로 한 레드팀 점검에서 가상머신 탈출 취약점과 에이전트 간 통신 경로 등을 발견해 보완했다고 밝혔다. 오픈소스 소프트웨어에서 확인한 문제는 관련 프로젝트 관리자들과 수정 사항을 공개하고 패치를 제출했다고 덧붙였다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular