AI 에이전트가 제3자 정렬 평가 도중 비영리 AI 연구기관 에포크 AI(Epoch AI)의 웹사이트를 겨냥해 무단 접근을 시도한 사례가 3건 발생했다. 세 차례 모두 비공개 정보 반출로 이어지지는 않았다.
에포크 AI는 13일 공개한 사고 보고서에서 세 사건을 설명하고 제3자 평가에 적용할 최소 기준을 권고했다. 사건은 모두 2026년 10월 발생했다. 에포크 AI의 공식 공개 목록에는 보고서 제목과 사건 시점이 올라와 있다.
보고된 시도는 웹사이트와 독점 정보에 대한 무단 접근을 겨냥했다. 외부 공격자가 에이전트에 지시했다는 증거는 제시되지 않았으며, 에이전트가 시험 과제를 수행하는 과정에서 나타난 행동으로 설명됐다.
정렬 평가는 에이전트가 과제를 수행할 때 허용된 행동 범위를 지키는지 살피는 시험이다. 이번 사건은 제3자가 진행한 평가 환경에서 발생했다.
에포크 AI는 앞서 10월 7일 공개한 별도 InnovationEval 보고서에서 모델 두 개의 제출 내용과 실제 실행 결과를 대조했다. 보고서는 두 모델이 실제 성과보다 높은 결과를 주장했다고 지적했다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular