기업용 AI 에이전트, 수익 도구로 진화 중…전략은 '빠른 적응'

엔터프라이즈 환경에서 AI ‘에이전트’ 기술을 도입하고 확장하려는 기업들이 부딪히고 있는 가장 큰 과제 중 하나는, 이 기술이 기존 소프트웨어 개발 방식과는 근본적으로 다르다는 점이다. 생성형 AI 기반의 에이전트는 단순한 규칙에 따라 작동하는 기존 애플리케이션과 달리, 유동적인 환경에서 행동을 학습하고, 맥락에 따라 적응하며, 명확한 패턴 없이 결과 중심적으로 운영된다.

AI 개발 기업 라이터(Writer)의 공동 창업자이자 CEO인 메이 하비브(May Habib)는 최근 열린 'VB 트랜스폼 2025' 행사에서 “에이전트는 규칙을 고수하는 기존 소프트웨어와 달리, 스스로 해석하고 적응하며 결과를 중심으로 학습한다”라며 “진짜 행동은 실제 상황에서만 드러난다”고 설명했다. 하비브는 포춘 1000대 기업 중 350개 이상이 라이터 고객이며, 2025년 말까지 포춘 500의 절반 이상이 자사의 에이전트를 통해 확장을 추진할 것이라고 밝혔다.

에이전트 기술을 확장하는 데 있어 가장 높은 장벽은 예측 불가능성과 시스템적 관리의 부재다. 기업은 제품 매니저 없이도 에이전트를 만들 수 있지만, 유지 보수와 반복 개선 과정에서는 오히려 제품 기획자의 사고방식과 협업 중심의 운영 구조가 필수적이다. 하비브는 “기존 IT 조직이 이런 변화된 개발 방식에 대한 리더십을 갖추지 못할 경우, 그 결과에 대한 모든 책임을 떠안게 될 것”이라고 경고했다.

이러한 비결은 단순히 기능을 늘리는 것이 아니라, 목표 중심(goal-based) 접근으로 전환하는 데서 시작된다. 예컨대, 법무팀의 계약서 검토를 돕는 에이전트를 만들기를 원할 때 단순히 ‘검토를 도와달라’는 기능이 아니라, ’검토에 소요되는 시간을 얼마나 줄일 것인가'라는 명확한 목표 설계로 접근해야 한다는 것이다. 에이전트에게는 일련의 워크플로우보다는 비즈니스 로직을 중심으로 구성된 '이해 구조'가 필요하며, 전문가들과의 긴밀한 협업을 통한 인식-판단-조치의 반복 순환 구조(리즌 루프)가 설계돼야 한다.

에이전트 품질 확보 또한 기존 QA 방식과 크게 다르다. 단순한 기능 작동 여부를 점검하는 테스트 방식이 아니라, 실제 환경에서의 행동을 관찰하고 의도한 결과를 유도했는지, 실패 안전장치는 작동했는지 등 정성적 평가가 중요하다. 하비브는 “우리가 추구하는 것은 완벽한 동작이 아니라, 신뢰할 수 있는 행동의 일관성”이라 강조했다.

이처럼 에이전트 기술의 불확실성을 수용하고, 빠르게 출시한 후 반복적으로 개선해 나가는 것이 확장의 핵심 전략이다. 하비브는 “개념 증명 단계에서 반복에 실패한 기업은 결국 마주 보는 팀 간 소모전만 반복하다가 프로젝트를 포기하기 쉽다”고 말했다. 대신 빠르게 실행하고, 자주 점검하고, 지속적으로 조정하는 것이 성공의 열쇠라는 것이다.

실제 사례로 하비브는 한 글로벌 은행이 라이터와 협업해 에이전트 시스템을 구축한 결과, 여러 금융 서비스 라인을 연결해 연간 약 6억 달러(약 8,640억 원) 규모의 신규 업셀 파이프라인을 만들었다고 밝혔다. 이는 에이전트가 수익 주도형 도구로 전환될 수 있다는 가능성을 보여주는 대표 사례다.

유지 보수 방식도 전면적인 전환이 필요하다. 기존 소프트웨어처럼 코드만 수정해서 끝날 문제가 아니라, 프롬프트, 모델 설정값, API 변경, 사용자 피드백까지 모두 종합적으로 관리해야 한다. 때로는 코드 기록상 전혀 변동이 없는데도 모델 동작이 달라지는 치명적인 상황이 벌어진다. 하비브는 이를 가리켜 “유령을 디버깅하는 기분”이라며, 완전히 새로운 버전 관리 체계가 필요하다고 강조했다.

에이전트 기술이 기업의 중심 도구로 자리잡기까지는 아직 극복해야 할 과제가 많지만, 방향성은 분명하다. 계획보다는 적응, 과정보다는 결과, 정적 로직보다는 동적 판단이 에이전트 개발의 본질이다. 그리고 이를 현실 가능한 전략으로 접목시키는 일은, 지금 이 순간에도 기업의 경쟁력을 가르는 분기점이 되고 있다.