오픈AI(OpenAI)가 차기 인공지능 모델 아스트라(Astra)의 사이버보안 기능 접근을 제한적으로 운영하기로 했다. 모델이 고도화된 취약점 탐지·악용 능력을 갖춘 만큼 출시 전 보안 통제를 강화한 조치다.
오픈AI는 1일 공개한 안내문에서 아스트라가 자체 대비 체계(Preparedness Framework)상 '치명적(Critical)' 사이버보안 능력 기준에 도달했다고 밝혔다. 오픈AI는 이 모델이 적절한 도구와 접근 권한을 갖출 경우 사람의 세부 지시 없이도 잘 보호된 시스템의 알려지지 않은 보안 결함을 찾아 악용 방법을 만들 수 있다고 설명했다.
오픈AI는 최근 수주 동안 아스트라 개발과 출시 일부를 늦추고 사이버 오남용과 무단 모델 행동을 막기 위한 보호 장치를 시험했다고 밝혔다. 고급 사이버보안 작업 기능은 초기 시험 이용자에게 먼저 제공하고, 이후 방어 목적의 사용을 넓히는 방식으로 운영된다.
오픈AI는 아스트라의 세부 안전성·보안·정렬 평가 내용을 출시 시점의 시스템 카드에서 추가로 공개할 예정이라고 밝혔다.
<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>
많이 본 기사