에이전틱 AI 확산… 기업이 원하는 건 성능 아닌 ‘통제’

기업 현장에 ‘에이전틱 AI’ 도입이 빠르게 늘고 있다. 다만 실제 가치는 AI 자체의 성능보다, 기존 업무 프로세스와 거버넌스·컴플라이언스 체계 안에 얼마나 자연스럽게 넣을 수 있느냐에 달렸다는 평가가 커지고 있다.

미국 엔터프라이즈 자동화 기업 아피안(Appian Corp.)은 최근 ‘아피안 월드 2026’에서 이런 흐름을 전면에 내세웠다. 핵심은 AI를 별도 실험 도구처럼 운영하는 것이 아니라, 기존 업무 흐름 안에 처음부터 보안·감사·승인 체계를 포함해 설계하는 이른바 ‘프로세스 중심 AI’다. 특히 규제가 까다로운 금융, 헬스케어, 공공 분야에서 이런 접근이 더 중요하다는 설명이다.

아피안 공동창업자 겸 최고경영자 맷 캘킨스(Matt Calkins)는 AI 에이전트의 잠재력을 인정하면서도, 가장 먼저 필요한 것은 ‘자율성 확대’가 아니라 ‘가드레일’이라고 강조했다. 그는 AI 에이전트가 다른 형태의 AI보다 더 쉽게 통제를 벗어날 수 있다며, 규칙과 추적 체계, 프로세스 구조가 없으면 기업 환경에서 안정적으로 쓰기 어렵다고 말했다. 적응형 판단이 필요한 영역에서는 유용하지만, 그렇지 않은 업무까지 무분별하게 적용할 필요는 없다는 뜻이다.

C레벨이 원하는 것은 ‘더 강한 AI’가 아니라 ‘더 안전한 AI’

이번 행사에서 반복해서 제기된 메시지는 분명했다. 기업들은 AI의 가능성을 이미 알고 있지만, 대규모 핵심 업무에 투입할 만큼 충분한 확신은 아직 갖지 못했다는 점이다. 아피안 의뢰로 진행된 하버드 비즈니스 리뷰 애널리틱 서비스 조사에 따르면, 전체 조직의 59%는 이미 AI를 실제 운영 환경에 올렸다. 그럼에도 대다수는 작고 제한적인 프로젝트에 AI를 우선 적용하고 있다.

배경에는 경영진의 신뢰 문제가 있다. 맷 캘킨스는 다수 기업이 규칙 기반 가드레일의 필요성을 인식하고 있음에도, 실제 구현까지는 나아가지 못하고 있다고 짚었다. AI가 ‘중요한 업무’를 맡기 위해서는 안전성, 재현 가능성, 감사 가능성을 먼저 입증해야 한다는 것이다.

아피안 공동창업자 겸 최고기술책임자 마이클 베클리(Michael Beckley)도 비슷한 진단을 내놨다. 그는 많은 기업이 AI를 시제품 단계 이상으로 확장하지 못하는 이유는, 결과를 반복 가능하고 예측 가능한 방식으로 신뢰하기 어렵기 때문이라고 설명했다. 결국 AI 바깥에 별도의 통제 장치를 덧붙이는 것이 아니라, 처음부터 업무 오케스트레이션 안에 AI를 넣는 구조가 필요하다는 얘기다.

빠른 코드 생성의 함정… 기업은 ‘인지 부채’ 문제에 주목

AI 도입을 망설이게 하는 또 다른 이유는 결과물의 품질이다. 최근 개발 현장에서는 자연어 지시만으로 코드를 빠르게 만드는 방식이 주목받고 있지만, 이렇게 생성된 코드가 곧바로 실무 배포 단계에 투입되는 경우는 드물다. 보안 문제가 생기거나, 모델이 바뀌면 코드 동작이 달라지고, 결국 개발 조직이 유지보수 부담을 떠안게 되는 일이 반복된다는 지적이다.

아피안 엔지니어링 총괄 메드하트 갈랄(Medhat Galal)은 이런 상황을 사실상 AI 시스템의 ‘대형 유지보수자’로 전락하는 문제라고 설명했다. 속도는 빨라졌지만, 사람이 결과를 이해하고 제어하는 능력이 따라가지 못하면 오히려 생산성이 떨어질 수 있다는 것이다.

아피안은 이를 ‘인지 부채’로 정의한다. AI가 코드를 만드는 속도가 개발자가 이를 검증·관리하는 속도를 앞지르면서 생기는 부담이다. 회사는 에이전트가 할 수 있는 일과 할 수 없는 일을 프로세스로 제한하고, 재작업과 프롬프트 수정, 코드 정비 부담을 줄이는 방향이 다음 단계의 AI 개발 환경이 될 것으로 보고 있다.

동시에 데이터 맥락도 중요 변수로 꼽힌다. 아피안 AI 아키텍처 책임자 마크 탤벗(Mark Talbot)은 여러 시스템에 흩어진 데이터를 옮기지 않고도 연결 관계를 파악할 수 있어야 AI가 제대로 된 인사이트를 낼 수 있다고 설명했다. 고객 지원 사례, 지식베이스 문서, 기존 업무 액션과 프로세스가 함께 연결될 때 비로소 AI 에이전트가 실질적인 일을 할 수 있다는 의미다.

금융·헬스케어에서 확인된 효과… ‘자동화’보다 ‘감사가능성’이 우선

규제가 강한 산업에서는 이런 접근의 효과가 더 선명하게 드러났다. 캐나다 금융서비스 기업 CIBC 멜론의 말 컬런(Mal Cullen) 최고경영자는 규제 환경상 무통제 AI 배포의 위험이 매우 크다고 밝혔다. 현재 실제 운영 단계에서 사용하는 AI가 아피안 기반에 사실상 한정된 이유도, 사용 방식의 투명성을 확보하고 감사 문서를 남길 수 있는 통제형 거버넌스 모델 때문이라고 설명했다.

실제 사례도 나왔다. CIBC 멜론은 중요한 규제 시한에 맞춰 고객용 애플리케이션을 개발해야 했는데, 기존 글로벌 플랫폼 변경 절차로는 기한을 맞추기 어려웠다. 하지만 아피안 플랫폼을 활용해 내부 팀이 직접 구축하면서 일정을 맞출 수 있었다는 게 회사 측 설명이다. AI와 워크플로 자동화가 속도를 높였지만, 그 전제는 어디까지나 통제 가능성이었다.

헬스케어 분야에서도 비슷한 결과가 나왔다. 행동 건강 서비스 접근을 돕는 어클레임 오티즘은 보험금 지급에 필요한 비정형 임상 문서 검토를 AI 자동화로 전환했다. 이전에는 사람의 판단과 추정에 의존하던 수작업이었고, 반려와 재작업이 잦았다. 회사 측에 따르면 문서 검토 기간은 통상 6개월에서 4일 수준으로 크게 줄었다. 병목을 없애면서 직원들은 더 높은 부가가치 업무에 집중할 수 있게 됐다.

미국 비영리단체 AARP도 대량 수작업이 필요한 송장 승인 절차에 AI를 도입했다. 단순히 AI 모델 라이선스를 붙이는 방식이 아니라, 보안·정확성·감사 가능성이 동시에 요구되는 구체적 문제를 먼저 정해 적용한 점이 특징이다. 현장 실무자가 직접 문제와 해결 과정을 확인할 수 있어, 내부 신뢰 형성에도 도움이 됐다는 평가다.

기업 AI 경쟁의 승부처는 ‘자율성’ 아닌 ‘프로세스’

이번 아피안 월드 2026가 던진 메시지는 비교적 명확하다. 기업 AI의 다음 경쟁은 더 똑똑한 모델 자체보다, 그것을 어떻게 업무 절차 안에 안전하게 묶어낼 것인가에 달려 있다는 점이다. 특히 규제 산업일수록 AI의 창의성보다 ‘예측 가능성’과 ‘감사 가능성’이 더 큰 가치로 부상하고 있다.

결국 ‘에이전틱 AI’가 기업의 표준 도구로 자리 잡으려면, 자유롭게 움직이는 에이전트보다 통제된 프로세스 안에서 신뢰를 쌓는 구조가 먼저 필요해 보인다. AI 도입이 확산하는 지금 시장의 관심도 성능 경쟁에서 거버넌스 경쟁으로 빠르게 이동하는 분위기다.