챗GPT 출시 전부터 오픈AI 직원들 보안 우려 제기

외부 보안 연구진이 직원 계정과 연결된 오픈AI(OpenAI) 내부 코드 저장소에 시험용 변경 요청을 만들었지만, 내부 코드를 읽거나 내려받지는 않았다. 이 시연은 챗GPT(ChatGPT) 출시 전부터 직원들이 제기해 온 코드 접근 권한 우려와 맞물려 오픈AI의 보안 통제를 다시 쟁점으로 만들었다.

보안업체 Hacktron은 9월 13일 공개한 조사 보고서에서 오픈AI 커뮤니티 포럼의 이미지 처리 취약점과 오픈AI의 SSO(통합 로그인) 설정 문제가 연결됐다고 밝혔다.

연구진은 7월 25일 포럼 취약점에 오픈AI의 로그인 설정 문제를 연결해 여러 직원의 챗GPT 계정에 접근했다고 설명했다. 이어 깃허브(GitHub) 조직에 연결된 직원의 코덱스(Codex) 계정으로 내부 저장소에 접근했다.

연구진은 내부 모노레포에 시험용 PR(풀 리퀘스트) #1186742를 만들었다. 모노레포는 여러 프로젝트의 코드를 하나의 저장소에서 관리하는 방식이다.

Hacktron은 PR 생성으로 접근 가능성을 입증한 뒤 시험을 중단했다고 밝혔다. 보고서에는 취약점 발견부터 저장소 접근을 입증하기까지 72시간이 채 걸리지 않았다고 적혔다.

오픈AI는 자사 설정 문제에 버그바운티를 지급했으며, 포럼 운영 소프트웨어인 Discourse에 대한 시험은 보상 범위에 포함되지 않았다고 밝혔다. 연구진은 오픈AI가 신고 후 약 14시간 만에 자사 측 문제를 수정했다고 보고서에 적었다.

이번 사안을 둘러싼 직원들의 우려는 외부 연구진의 시연 이전부터 이어졌다.

로이터(Reuters)는 회사 사정에 밝은 취재원 5명을 인용해 일부 직원이 챗GPT 출시 전부터 경영진과 이사회에 보안 우려를 전달했다고 보도했다.

취재원들은 코드 접근 권한이 있는 직원이라면 맡은 업무와 무관한 프로젝트의 기술 세부 사항도 볼 수 있었다고 말했다. 우려의 초점은 저장소에 접근한 뒤 업무와 관련 없는 코드까지 볼 수 있는지에 있었다.

경영진이 보안보다 경쟁사와의 개발 속도를 우선한다고 느꼈다는 직원들의 견해도 보도에 담겼다. 이는 익명 취재원들이 전한 직원들의 인식이다.

오픈AI는 가장 민감한 연구를 엄격한 접근 통제가 적용된 별도 저장소에 보관한다고 밝혔다. 모노레포에는 모델 가중치나 모델의 핵심 세부 사항이 담기지 않으며, 내부 도구에 대한 정기 보안 검토도 실시하고 있다고 설명했다.

SSO는 하나의 인증으로 여러 서비스에 로그인하는 방식이다. 이번 시연에서는 직원 계정과 내부 저장소 사이에서 어떤 작업이 가능했는지가 쟁점으로 드러났다.

직원들의 문제 제기를 경영진과 이사회의 책임으로 연결하는 논의는 본지가 앞서 다룬 AI 연구소의 안전 감독 문제와도 맞닿아 있다.

오픈AI는 11월 2일 공개한 보안 계획에서 중대한 취약점 제보 보상을 기존의 4배를 넘는 수준으로 높이고, Cathedral Systems와 다음 내부 보안 스프린트를 진행하겠다고 밝혔다. 직전 스프린트에는 제품 엔지니어의 25%를 취약점 발견과 수정에 투입했다고 설명했다.

이번 계획에는 내부 저장소의 접근 권한을 어떻게 바꿨는지에 대한 내용은 담기지 않았다.