에이전틱 기업 확산…AI 에이전트 ‘보안·비용 통제’가 관건으로

기업용 통합 플랫폼 서비스 기업 부미(Boomi)가 ‘에이전틱 기업’ 시대에 맞춘 인공지능(AI) 통제 전략을 앞세우고 있다. 다만 현장에서는 자율적으로 움직이는 AI 에이전트가 빠르게 늘어나는 반면, 이를 안전하게 관리할 장치와 비용 통제 체계는 아직 충분히 갖춰지지 않았다는 우려가 커지고 있다.

스티브 루카스 부미 최고경영자(CEO)는 최근 더큐브와의 인터뷰에서 부미의 비전이 ‘연결된 기업’에서 ‘자동화된 기업’을 거쳐 이제는 ‘에이전틱 기업’으로 진화했다고 설명했다. 그는 현재 고객들이 가장 민감하게 보는 지점으로 ‘보안’을 꼽았다.

루카스는 다양한 에이전트형 AI와 최첨단 모델을 기업 내부에서 안전하게 운영하려면 반드시 ‘컨테이너화’가 필요하다고 강조했다. 그는 개방형 가중치 모델이 매우 강력하지만, 이를 통제 없이 기업 시스템에 풀어놓는 것은 위험하다고 지적했다. 특히 스스로 수정할 수 있는 에이전트는 최소한 격리된 실행 환경과 즉시 중단할 수 있는 ‘킬 스위치’가 필요하다는 설명이다.

오픈소스 AI 에이전트 확산에 기업 보안 긴장

이 같은 경계감은 최근 오픈소스 AI 에이전트 ‘오픈클로(OpenClaw)’와 엔비디아($NVDA)의 관련 버전인 ‘니모클로(NemoClaw)’가 주목받으면서 더 커지고 있다. 기업들이 새로운 AI 전략 마련에 나서고 있지만, 첫 단계는 성능 경쟁보다 안전한 배치라는 게 루카스의 판단이다.

그는 이미 일부 기업 환경에서 검증되지 않은 AI 에이전트가 내부로 유입되며 소프트웨어 취약점 노출 가능성이 커졌다고 봤다. 최고정보책임자(CIO)와 최고기술책임자(CTO)들이 특히 우려하는 부분도 여기에 있다.

루카스는 실제로 부미 고객사들이 자사 플랫폼을 활용해 기업 내부로 들어오는 에이전트를 감시하고 있으며, 이 과정에서 등록되지 않은 노트북 기반 AI 에이전트가 확인되는 사례도 나오고 있다고 전했다. 예를 들어 직원이나 개발자가 개인 장비에서 외부 모델을 활용해 간단한 에이전트를 만든 뒤 회사 시스템과 연결하면, 관리되지 않는 경로를 통해 기업 전체가 위험에 노출될 수 있다는 것이다.

부미 “통제 계층과 정책 수립이 지금 필요”

부미는 지난해 에이전트 관제 제품군인 ‘에이전트스튜디오(Agentstudio)’를 출시했다. 여기에는 하나의 통합 공간에서 AI 에이전트를 모니터링하고 관리하는 ‘에이전트 컨트롤 타워’도 포함됐다.

루카스는 에이전틱 기업 전략이 제대로 작동하려면 여러 단계의 안전장치와 컨테이너 기반 실행 환경이 반드시 필요하다고 설명했다. 특히 규제 점검이나 내부 감사 상황에서 기업은 ‘블랙박스’처럼 움직이는 에이전트가 조직 안에서 정확히 무엇을 했는지 추적할 수 있어야 한다고 짚었다. 결국 AI 거버넌스의 핵심은 기술 도입 자체보다 ‘통제 계층’과 ‘정책 수립’을 얼마나 먼저 마련하느냐에 달려 있다는 의미다.

AI 비용 부담도 확대… “작년보다 10배 더 썼다는 기업도”

에이전틱 기업 전환에서 또 다른 핵심 변수는 비용이다. 루카스는 현재 많은 기업이 지난해 AI에 예상보다 훨씬 많은 돈을 썼다는 사실을 뒤늦게 확인하고 있다고 말했다. 일부는 평소보다 10배 수준의 지출이 발생한 것으로 파악했다는 설명이다.

AI 인프라 투자 열기가 당장 꺾일 가능성이 크지 않다는 점도 부담을 키우는 대목이다. 기업 입장에서는 AI를 도입해 경쟁력을 확보해야 하지만, 동시에 보안과 운영 관리, 비용이라는 세 가지 문제를 함께 풀어야 한다. 루카스는 현장에서 가장 많이 듣는 질문 역시 보안 검토 이후에는 결국 ‘비용’으로 모인다고 전했다.

환산 기준으로 보면 1달러는 1,469원이다. AI 인프라 운영비와 모델 사용료, 외부 솔루션 연동 비용, 데이터 관리 비용까지 겹치면 국내 기업에도 부담은 적지 않을 수 있다. 특히 대규모 조직일수록 여러 부서가 중복 투자에 나설 가능성도 높아 비용 효율화 체계가 중요해지고 있다.

사람과 AI 함께 관리하는 ‘AIOps’ 역할 주목

AI 확산은 인력 구조에 대한 고민도 키우고 있다. 기업 내 직원들은 AI 에이전트가 늘어나는 환경에서 자신의 역할이 어떻게 바뀔지 주목하고 있다. 루카스는 이런 변화의 접점에 ‘AIOps’가 있다고 봤다.

그는 시장에 수많은 AI 기업과 솔루션이 쏟아지는 상황에서 진짜 질문은 어떤 기술이 최고냐가 아니라, 이를 조직 안에서 누가 통합하고 가장 효율적으로 운영할 것이냐라고 말했다. 결국 에이전틱 기업은 AI 도입만으로 완성되지 않으며, 사람과 에이전트가 함께 일하는 운영 프레임워크가 필요하다는 설명이다.

이번 발언은 기업 AI 시장이 이제 실험 단계를 넘어 실질적인 운영 통제 단계로 이동하고 있음을 보여준다. 에이전틱 기업이 새로운 표준으로 자리 잡을 가능성은 크지만, 그 전제는 ‘보안’, ‘거버넌스’, ‘비용 관리’다. AI를 얼마나 빨리 도입하느냐보다 얼마나 안전하고 효율적으로 다루느냐가 향후 경쟁력을 가를 변수로 떠오르고 있다.