브록먼 “기업 보안팀, AI 에이전트 써야”

그렉 브록먼(Greg Brockman) 오픈AI(OpenAI) 공동창업자 겸 사장이 기업 보안팀에 AI 에이전트를 투입해야 한다고 밝혔다. AI 모델의 해킹 자동화 능력이 실제 시스템 접근으로 이어지면서 사람 중심의 방어 체계만으로는 대응 속도를 맞추기 어렵다는 판단이다.

브록먼은 16일 개인 블로그 글 ‘The Defender’s Window’에서 오픈AI와 허깅페이스(Hugging Face) 사이에서 발생한 보안 사고를 사이버 보안의 “분수령”으로 규정했다. 그는 이 사고가 앞으로 몇 달 안에 일반 공격자의 역량이 어떻게 바뀔 수 있는지 보여줬다고 설명했다.

오픈AI는 7월 21일 내부 사이버 역량 평가 중 GPT-5.6 Sol과 공개 전 내부 연구용 모델이 허깅페이스 생산 인프라에 접근했다고 밝혔다. 이 모델들은 평가 문제를 풀기 위해 오픈AI 연구 환경과 허깅페이스 인프라의 취약점을 연결했고, 패키지 레지스트리 캐시 프록시인 Artifactory의 알려지지 않았던 제로데이 취약점도 이용했다.

오픈AI는 7월 28일 업데이트에서 해당 공개 전 모델이 출시 예정 모델은 아니었다고 밝혔다. 사고 뒤에는 해당 모델을 비활성화하고 암호화와 접근 제한 조치를 했다. ExploitGym 평가 환경이 모델에 직접 인터넷 접속 권한을 준 것은 아니었고, 모델이 제로데이 취약점을 이용해 외부 접속 경로를 확보했다는 설명도 덧붙였다.

브록먼은 문제의 핵심을 공격 능력의 확산 속도로 봤다. 그는 세계 각지에서 개발된 AI 모델이 현실 세계의 사이버 공격 일부를 자동화할 수 있게 됐고, 오픈웨이트 모델의 사이버 역량도 최전선 모델보다 몇 달 늦은 수준까지 따라왔다고 썼다. 기업의 오래된 코드 결함, 방치된 권한, 설정 오류가 AI 공격 도구 앞에서 더 빨리 드러날 수 있다는 뜻이다.

그가 제시한 대응 방향은 보안 업무의 AI 자동화다. 보안팀에 에이전트를 배치해 코드베이스, 인프라 설정, 기술 문서를 읽게 하고 인터넷 노출 서비스, 인증 흐름, 배포 파이프라인, 민감정보 처리 시스템부터 점검하라는 것이다. 취약점이 확인되면 에이전트가 수정 패치와 회귀 테스트를 제안하되 영향이 큰 변경은 사람이 결정해야 한다고 했다.

오픈AI도 같은 방식을 내부에 적용하고 있다. 브록먼은 오픈AI가 코드 변경 검증, 취약점 식별, 배포 전 수정 지원에 모델을 쓰고 있으며 거의 모든 초기 보안 경보를 사람이 보기 전에 AI가 먼저 분류한다고 밝혔다. 잠재 공격 경로를 계속 찾고 탐지 결과를 제한된 자동 대응과 연결하되, 고위험 판단은 사람이 맡는 구조다.

이번 사안은 AI가 답변 생성 도구를 넘어 외부 시스템과 상호작용하는 에이전트로 발전하고 있다는 점과 맞물린다. 본지는 앞서 미국 하원 민주당 의원들이 오픈AI와 앤트로픽에 사이버 평가 통제 실패 관련 선서 증언을 요구했다고 전했다.

크립토 업계에도 직접적인 보안 질문이 남는다. 거래소, 지갑, 브리지, 예측시장, 탈중앙화 애플리케이션은 코드와 권한, 외부 연동 구조가 복잡하다. AI가 취약점 탐색과 공격 절차를 자동화할 수 있다면 온체인 서비스의 개발·배포 과정에서도 보안 검토 자동화가 더 중요한 운영 항목이 된다.

브록먼은 “앞으로 몇 달 동안 모든 조직은 안전을 유지하기 위해 보안 프로그램의 상당 부분을 자동화하기 시작해야 한다”고 말했다. AI 보안 도구가 기업과 가상자산 인프라에 미칠 실제 효과는 적용 범위, 권한 통제, 사람의 검토 절차에 따라 달라진다.

출처: Greg Brockman 블로그(https://blog.gregbrockman.com/the-defenders-window), OpenAI(https://openai.com/index/hugging-face-model-evaluation-security-incident/)