AI 에이전트 확산, 기업들 권한·감사 통제탑 구축

AI 에이전트가 기업 시스템에 직접 접근해 업무를 수행하면서 기업들이 권한 관리와 활동 기록, 보안 감시를 한데 묶은 통제 체계를 구축하고 있다. 업무 자동화 범위가 넓어지면서 위험도 잘못된 답변에서 권한 오남용과 민감정보 접근, 프롬프트 인젝션으로 이동하는 모습이다.

AI 에이전트는 질문에 답하는 챗봇과 달리 여러 애플리케이션에 접속해 작업 순서를 정하고 도구를 호출한다. 이에 따라 기업은 에이전트가 누구인지, 어떤 권한으로 무엇을 실행했는지, 문제가 생겼을 때 작업을 중단할 수 있는지를 관리해야 한다.

인튜이트는 생성형 AI 운영체제 ‘GenOS’에 보안·위험·사기 통제 기능을 포함했다. GenOS는 프롬프트와 데이터, 대규모언어모델(LLM), 에이전트의 계획·추론·실행 기능을 하나의 개발 환경에서 관리하도록 설계됐다.

인튜이트는 에이전트가 고객을 대신해 행동하더라도 고객이 통제권을 갖도록 설계했다고 설명했다. 회계채권·매입채무 처리와 세법 업데이트 같은 업무를 자동화하면서도 세금 관련 결과물은 개발자와 세무·회계 전문가가 검토하도록 했다.

인튜이트는 에이전트 개발 키트를 공개한 뒤 5주 안에 수백 개의 에이전트가 잠재적 활용 사례로 제작됐다고 밝혔다. 에이전트 수가 늘어날수록 개별 기능의 성능보다 배포 이후 권한과 기록을 관리하는 체계가 중요해진다는 의미다.

워크데이는 AI 에이전트를 사람과 같은 ‘디지털 인력’으로 관리하는 ‘Agent System of Record’를 공개했다. 이 시스템은 에이전트의 등록·배포·분석·수명주기 관리와 책임 추적을 지원하며, 외부에서 만든 에이전트도 등록하고 모니터링할 수 있도록 했다.

서비스나우는 ‘AI Control Tower’를 통해 기업 내 AI 모델과 에이전트, 모델 컨텍스트 프로토콜(MCP) 서버를 검색하고 권한·보안·활동·성과를 중앙에서 관리한다고 밝혔다. 2026년 5월 발표한 확장판은 서비스나우 외부 시스템에 배치된 AI까지 관리 대상으로 포함했다.

서비스나우의 제품 설명에는 AI Control Tower가 에이전트의 신원과 접근권한, 노출 상태를 추적하고 프롬프트 인젝션을 차단하며 최소권한 원칙을 적용한다는 내용이 담겼다. 워크데이와 서비스나우는 에이전트를 단순한 소프트웨어 기능이 아니라 별도 신원과 권한을 가진 작업 주체로 다루고 있다.

이 같은 흐름은 AI 에이전트 경쟁의 중심이 모델 성능에서 기업 시스템으로 이동하고 있다는 본지의 앞선 보도와도 맞닿아 있다. 기업용 에이전트가 이메일·협업 도구·업무 데이터에 접근할수록 중앙 승인, 최소권한, 감사 기록을 한 묶음으로 운영해야 하기 때문이다.

보안업계의 대응도 이어지고 있다. 엔비디아($NVDA)는 2026년 7월 27일 오픈 시큐어 AI 얼라이언스를 출범시켰고, 시스코(Cisco)·마이크로소프트($MSFT)·삼성전자·SK텔레콤·서비스나우·워크데이·Zscaler 등이 참여해 AI 에이전트와 소프트웨어를 보호하는 오픈소스 도구와 기술을 공동 개발하기로 했다.

Zscaler는 AI 에이전트와 생성형 AI 사용을 대상으로 사용자별 접근 통제, 프롬프트·응답 감시, 민감정보 유출 차단 기능을 제공한다고 밝혔다. 회사가 제시한 AI 트래픽 증가율 3,464.6%는 5360억 건의 거래를 분석한 자체 자료에 기반한 수치로, 전체 기업 시장의 증가율로 일반화할 수는 없다.

AI 개발 속도를 둘러싼 논쟁도 이어지고 있다. 다리오 아모데이(Dario Amodei) 앤트로픽(Anthropic) CEO는 9월 공개 글에서 안전장치가 따라갈 시간을 확보하려면 AI 모델의 능력 향상 속도를 늦춰야 한다고 주장했고, 독립 평가기관에 상시적인 시스템 접근권을 제공해야 한다고 제안했다.

오픈AI 정책 책임자 크리스 리헤인(Chris Lehane)은 오픈AI가 앤트로픽과 구글 딥마인드와 AI 안전 문제를 수 주간 논의해 왔다고 밝혔다. 다만 공동 감속 계획의 공식 합의나 시행 일정은 확인되지 않았다.

반대쪽에서는 전면적인 감속보다 통제 장치를 갖춘 개발이 필요하다는 주장이 나왔다. 포춘은 루멘테크놀로지스의 짐 파울러(Jim Fowler) CTO 겸 최고제품책임자가 ‘안전한 가속’이 필요하다고 말했다고 전했으며, 메타의 마크 저커버그(Mark Zuckerberg)도 업계 차원의 일률적인 감속론과 거리를 뒀다.

기업들이 AI 에이전트 도입을 중단하기보다 권한·감사·보안 계층을 추가하는 방식으로 대응하면서, 경쟁의 초점은 모델 자체에서 기업 시스템을 통제하는 관리 체계로 넓어지고 있다. 금융권에서도 AI 사용 데이터와 모델 성능, 중단 기준을 경영진 책임 아래 두는 원칙이 마련된 바 있다.

다만 인튜이트와 서비스나우, 워크데이가 제시한 통제 기능이 실제 사고 감소나 비용 절감으로 이어지는지는 별도 검증이 필요하다. 현재 공개된 자료에는 기업별 사고 감소율과 운영 비용을 같은 기준으로 비교한 수치가 담기지 않았다.