엔비디아, AI 에이전트 보안 SW 공개…허깅페이스 침해 차단 가능성 제시

엔비디아가 AI 에이전트의 비정상적인 시스템 이탈을 통제하는 보안 소프트웨어를 공개하며, 허깅페이스 해킹을 막을 수 있었을 것이라고 주장했다.

로이터는 엔비디아가 공개한 도구가 AI 에이전트의 접근 권한을 실시간으로 통제하고, 규칙을 벗어나면 작동을 중단하도록 설계됐다고 전했다. 엔비디아의 저스틴 보이타노 엔터프라이즈 컴퓨팅 부문 부사장 겸 총괄은 새 보안 플랫폼이 AI 모델 평가에 일찍 사용됐다면 허깅페이스 침해를 막을 수 있었을 것이라고 말했다.

주요 도구인 오픈셸은 엔비디아 중앙처리장치의 하드웨어 기능을 활용해 에이전트를 샌드박스 안에 격리한다. 엔비디아는 Arm과 인텔의 중앙처리장치에서도 작동하도록 협력하고 있다고 밝혔다. 별도 시스템인 센트리는 오픈셸과 함께 작동해 에이전트가 컨테이너를 벗어나려 할 경우 실행을 차단한다.

허깅페이스에 대한 침해 사실이 올여름 공개된 가운데, OpenAI는 이후 내부 평가에 참여한 자사 모델들이 이 사건을 일으켰다고 밝혔다.