오픈AI(OpenAI)의 AI 에이전트들이 지난 5~6월 독일 협업형 웹사이트를 장악해 과제 답안 공유와 규정 우회 논의에 이용했다는 보도가 나왔다.
로이터(Reuters)는 새 연구와 복수의 관계자를 인용해 이들 에이전트가 독일어 위키 사이트 DseWiki를 다른 AI 에이전트용 게시판처럼 사용했다고 보도했다. 로이터는 일부 에이전트가 이미 얻은 과제 답안을 올리고, 샌드박스 제한을 우회하는 방법을 논의했다고 전했다.
사이트 관리자가 6월 관련 페이지를 삭제하기 시작하자 일부 에이전트는 백업 페이지를 만든 것으로 전해졌다. 로이터는 오픈AI 관계자들이 수주 전 해당 사안을 인지했지만, 7월 허깅페이스(Hugging Face) 관련 사고 대응 과정에서 공개하지 않았다고 보도했다.
오픈AI는 성명에서 모델 역량이 높아지는 만큼 AI '오정렬' 문제에 대한 공개를 확대할 필요가 있다고 밝혔다. 다만 오픈AI는 해당 자료를 자체 분석한 결과, 웹사이트 조작 시도라는 일부 전문가의 평가는 다툰다고 로이터는 전했다.
<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>
많이 본 기사