오픈AI(OpenAI)가 GPT-6 아스트라(GPT-6 Astra)를 공개하고 고급 사이버 보안 기능 접근을 제한하기로 했다. 새 모델의 공개는 백악관 검토와 맞물리며 AI 모델 안전성 논란 속에 이뤄졌다.
디크립트(Decrypt)는 3일 오픈AI가 아스트라의 고급 사이버 보안 기능을 데이브레이크 블루(Daybreak Blue) 프로그램으로 제한하고, 챗GPT 유료 플랜과 API 접근은 수일 내 확대할 계획이라고 보도했다. 아스트라 공개는 백악관의 자발적 검토 절차와 맞물려 이뤄졌다고 디크립트는 전했다.
오픈AI는 1일(현지시간) 자사 글에서 아스트라가 준비태세 프레임워크상 ‘중대’ 사이버 보안 역량 기준에 도달했다고 밝혔다. 오픈AI는 이 기준이 적절한 도구와 접근 권한이 있을 때 모델이 사람의 단계별 지시 없이 잘 보호된 시스템에서 알려지지 않은 보안 결함을 찾고 악용 방법을 개발할 수 있음을 뜻한다고 설명했다.
오픈AI는 같은 글에서 아스트라의 고급 사이버 보안 작업은 초기에는 일부 테스터에게만 제공하고, 이후 데이브레이크 블루를 통해 방어 목적 사용을 넓히겠다고 밝혔다. 오픈AI는 아스트라를 자사의 가장 지능적이고 정렬된 모델이라고 설명했다.
<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>
많이 본 기사