생산 환경에서 인공지능을 활용하고자 하는 기업들이 증가하고 있지만, 관리되지 않은 리스크가 발목을 잡고 있다. 클라우드 기반 데이터 보안 기업 루브릭(Rubrik)은 기업들이 AI 기술을 확장하기 전에 반드시 통제력을 확보해야 한다는 점을 강조하며, AI 거버넌스와 리스크 관리 솔루션을 적극적으로 내놓고 있다.

루브릭의 AI 총괄인 데브 리시는 최근 진행된 인터뷰에서 “모델 구축 원가나 에이전트 생성 난이도보다 리스크 관리가 실제로 기업의 AI 전개를 막는 가장 큰 요인”이라고 설명했다. 그는 지난 여름 동안 약 180여 개 고객사와의 대화를 바탕으로, 기업들이 실행단계에서 직면하는 핵심 문제를 지적하며 일부 조직은 ROI를 찾아내지 못하고 후퇴하기도 한다고 밝혔다.

특히 그는 “휴먼 시스템에는 오작동 시 검증 절차나 직감, 책임소재가 있지만, AI는 그 준비가 부족하다”며, 통제 불가능한 자율 시스템이 조직의 보안과 리스크 관리 체계에 혼란을 일으킬 수 있다고 경고했다. 이런 배경에서 루브릭은 ‘루브릭 에이전트 클라우드(Rubrik Agent Cloud)’를 출시하고, 실질적인 통제 수단을 보완하려는 기업의 요구에 대응하고 있다.

많은 기업들이 AI 정책이나 가이드라인을 문서화했음에도 불구하고, 실제 시스템 단의 제어 장치와 연계되지 못하고 있다는 점도 문제로 꼽힌다. 리시는 “AI는 소프트웨어 위에서 돌아가고 있지만, 정책은 종이 위에 쓰여 있다”며 이 간극이 곧 기회이자 위협이라고 분석했다.

루브릭은 현재 Arm Holdings 등을 주요 고객으로 확보하고 있으며, AI 에이전트의 가시성 확보와 복구 기능 강화에 중점을 둔 전략을 구사 중이다. 점점 더 많은 기업들이 AI 시스템에 실제적인 통제 기능과 철저한 감사 체계를 갖추려는 상황에서, 루브릭은 이를 뒷받침하는 실행 기술로 시장을 공략하고 있다. AI가 조직 전체의 업무를 보조하거나 주도하는 시대가 도래함에 따라 그에 걸맞은 감시와 통제 체계가 뒷받침돼야 한다는 점이 점점 설득력을 얻고 있다.

결국 AI는 기술력보다는 얼마나 정교하게 통제되고 실행 가능한 상태로 설계되느냐가 성공을 좌우할 것이며, 지금의 AI 거버넌스 경쟁은 장기적으로 가장 중요한 분기점이 될 것으로 보인다.