세일즈포스, AI 에이전트 위한 ‘심층 관찰’ 기능 공개… 운영 투명성 강화

세일즈포스(Salesforce)가 에이전트 기반 인공지능(AI) 관리 수요 증가에 대응해 새로운 심층 관찰(Deep Observability) 기능을 공개했다. 이번 기능은 기업용 플랫폼 에이전트포스 360(Agentforce 360) 내에 통합돼, 배포 이후 자율적으로 작동하는 AI 에이전트의 투명한 운영과 관리 효율을 극대화하도록 설계됐다.

세일즈포스는 최근 기업들이 AI 에이전트를 광범위하게 내부에 도입함에 따라 단일 에이전트 구축을 넘어, 다수의 에이전트를 동시에 관리해야 하는 과제가 새로운 핵심 과제로 떠올랐다고 분석했다. 애덤 에반스(Adam Evans) 세일즈포스 AI 부문 총괄 부사장은 “AI 채택이 가속화되면서, 진정한 기업 과제는 단순히 AI 도입이 아닌, 비즈니스 의사결정을 수행하는 AI 에이전트 전체를 체계적으로 감독하고 최적화하는 것”이라고 강조했다.

에이전트포스 360 플랫폼의 새 관찰 기능은 세 가지 축—정제성(refinement), 추적성(traceability), 신뢰성(reliability)을 중심축으로 운용된다. 특히 이번 개선의 핵심은 새로운 세션 추적 데이터 모델로, 사용자 입력, 에이전트 응답, LLM 호출, 판단 근거 및 가드레일 검사 등 전 과정을 로그로 기록한다. 이와 함께 도입된 뮬소프트 에이전트 패브릭(MuleSoft Agent Fabric)은 조직 내 모든 에이전트를 통합적으로 등록하고 조율하며, 거버넌스와 감시 기능을 제공한다.

이를 통해 기업들은 대화형 흐름의 효율성을 분석하거나 에이전트 구성 오류를 신속히 진단할 수 있다. 유사 요청을 분류하고 성능 지표(KPI) 변화를 추적하는 방식으로 에이전트의 운영 품질을 지속적으로 개선하는 데 유용하게 작용한다. 또한 플랫폼은 실시간에 가까운 상태 모니터링도 지원해 오류나 성능 저하가 발생하기 전 사전 경보를 제공한다.

베타 테스트에 참여한 일부 기업은 업무 흐름에 중요한 통찰력을 얻었다고 전했다. 연간 53만 건 이상의 고객 문의를 처리하는 호텔엔진(Hotel Engine)의 데메트리 살바지오(Demetri Salvaggio) 고객경험 부문 부사장은 “에이전트의 결론뿐 아니라 판단 과정까지 투명하게 살펴볼 수 있게 된 것은 AI를 단순한 도구에서 신뢰할 수 있는 동료로 진화시키는 전환점”이라고 평가했다.

세일즈포스는 심층 분석 기반의 에이전트 최적화 기능을 현재 에이전트포스 스튜디오에서 사용할 수 있으며, 전체 건강 분석 기능은 2026년 봄 정식 출시될 예정이라고 밝혔다. 이번 발표는 AI 엔터프라이즈 시장 전반에 걸친 신뢰성과 관리 문제를 해결하려는 세일즈포스의 장기적 전략 중 하나로 풀이된다.

AI 에이전트가 점차 ‘보이지 않는 팀원’으로 기업 운영의 중심에 자리 잡고 있는 지금, 이와 같은 고도화된 관리 툴은 필수적인 인프라로 부상하고 있다.