기업들이 인공지능(AI)을 도입해 자율적인 업무 환경을 구축해가는 가운데, AI 에이전트의 통제 권한과 보안 관리가 디지털 운영의 핵심 과제로 떠오르고 있다. 특히, 고도화된 AI 에이전트는 사용자의 신원을 대신해 업무를 수행하거나 비즈니스 의사결정을 실행할 수 있어, 보안이 뚫릴 경우 조직 전체 시스템이 장악당하는 최악의 상황이 벌어질 수 있다.

루브릭(Rubrik)의 공동 창업자이자 최고경영자(CEO)인 비풀 신하(Bipul Sinha)는 최근 인터뷰에서 “에이전트가 초인적인 속도로 업무를 처리하는 시대에, 단 10분 만에 10배의 피해가 발생할 수 있다”며, 기존 보안 체계로는 통제가 어려운 ‘에이전트 거버넌스’가 새로운 제어 수단으로 떠오르고 있다고 강조했다. 그는 “AI 에이전트는 사람처럼 비즈니스 프로세스를 운영하고, 때로는 사용자의 정체성을 흉내 내기 때문에 ‘슈퍼휴먼’의 속성을 갖는다”고 설명했다.

에이전트 보안을 강화하기 위해 루브릭은 새로운 플랫폼인 '루브릭 에이전트 클라우드(Rubrik Agent Cloud)'를 도입했다. 이 시스템은 조직 내 AI 에이전트의 유형과 활동 범위를 분석하고, 사전 설정된 가드레일에 따라 위협 행동을 탐지하며, 필요할 경우 해당 에이전트를 신속히 회수할 수 있는 기능을 제공한다. 신하 CEO는 “모든 AI 에이전트는 신입사원처럼 취급돼야 한다. 행동 규칙서, 감시 체계, 문제 발생 시 정지 절차까지 갖춰야 한다”고 설명했다.

하지만 에이전트 거버넌스의 진짜 난제는 대규모 확산 속도다. 충분한 가시성과 제어권 없이 에이전트가 무분별하게 확산될 경우, 소규모 오류가 전체 시스템을 마비시키는 ‘디지털 대형 화재’로 이어질 수 있다. 이에 신하 CEO는 조직들이 지나치게 방대한 자동화 계획 보다는, 3~4개의 핵심 워크플로우에 한정해 파일럿 실행을 마친 뒤 점진적으로 확대해가야 한다고 조언했다.

또한 신하는 “운영 환경에서는 정확한 AI가 반드시 필요하며, 코스트 관리 능력도 동반되지 않으면 추론 비용이 걷잡을 수 없게 치솟는다”고 경고했다. 이는 비용 안정성이라는 현실적 요소가 AI 에이전트의 확산 전략에서 간과되어서는 안 된다는 의미다.

AI 기술이 기업 전반에 심층적으로 통합되는 지금, 루브릭이 제시하는 ‘에이전트 거버넌스’ 전략은 단순한 보안 조치를 넘어, 조직 전반의 디지털 회복력과 지속 가능성을 구체화하는 핵심 제어탑 역할로 떠오르고 있다.