AI가 바꾼 기업 현장…인튜이트·링크드인 '에이전트 전쟁' 돌입

생성형 AI 산업이 언론의 주목을 받으며 급격한 발전 가능성이 부상하는 가운데, 기업 현장에서는 보다 현실적인 목표에 초점을 맞춘 AI 활용이 빠르게 뿌리내리고 있다. 실리콘밸리에서는 오픈AI(OpenAI), 메타(Meta), xAI 등 주요 업체들이 인공지능 일반화(AGI)를 외치고 있지만, 실제 기업들은 이미 고객 서비스를 개선하고, 비용을 절감하며, 운영 효율성을 높이는 데 AI 에이전트를 적극적으로 투입하고 있다.

지난 7월 미국 샌프란시스코에서 개최된 ‘트랜스폼 2025(Transform 2025)’ 콘퍼런스에서는 이와 같은 변화의 속도가 당초 시장의 예상을 훨씬 앞지르고 있다는 사실이 명확히 드러났다. 인튜이트(Intuit), 캐피털 원(Capital One), 링크드인(LinkedIn), 스탠퍼드대학교, 하이마크 헬스(Highmark Health) 등 주요 기관과 기업들이 실제 업무에 AI 에이전트를 적용해 성과를 끌어내고 있는 것으로 나타났다.

벤처비트(VentureBeat)가 행사 직전 발표한 설문에서는 직원 수 1,000명 이상 대기업 중 무려 68%가 이미 AI 에이전트를 도입했다고 밝혔다. 일각에서는 이 수치가 독자 구성을 반영한 특수 사례일 수 있다는 우려도 있었지만, KPMG가 공개한 별도의 조사 결과는 이러한 추세가 현실임을 입증했다. 발표된 데이터에 따르면 전체 기업 중 33%가 현재 AI 에이전트를 실제로 운영 중이며, 이는 불과 반 년 전보다 세 배나 증가한 수치다.

이러한 확산의 배경에는 눈에 띄는 비즈니스 성과가 있다. 뉴렐릭(New Relic)의 CEO 아샨 윌리(Ashan Willy)는 자사 고객사의 AI 모니터링 활동이 분기마다 30%씩 증가하고 있다고 밝혔다. 인튜이트는 퀵북스(QuickBooks) 소프트웨어에 송장 발행 및 미납 알림 기능을 갖춘 에이전트를 도입해, 사용 기업들이 평균적으로 대금을 5일 더 빨리 회수하고 완납 비율이 10% 증가하는 성과를 얻었다고 전했다.

이와 함께 멀티클라우드 및 멀티모델 전략이 급부상하고 있다. IBM의 AI 플랫폼 부사장 아르만드 루이즈(Armand Ruiz)는 “모델 게이트웨이를 개발해 고객이 가장 효과적인 언어 모델을 활용할 수 있도록 지원한 것은 수요 대응 차원의 전략”이라며, 기업들이 더 이상 특정 대형 모델에 의존하지 않고 업무 특성에 따라 다양한 AI 도구를 조합하고 있다고 설명했다.

이러한 유연성은 GPU와 연산자원의 병목 문제를 고려한 대응 전략이기도 하다. 전문가들은 토큰 비용이 하락하는 상황에서 마냥 자원을 늘리기보다 각 업무에 적합한 모델을 선별·최적화하는 방식이 채택되고 있다고 분석했다. 이는 엔비디아(NVDA)의 칩 의존도를 줄이고, AI에 특화된 메모리 및 스토리지 솔루션 도입을 유도하는 흐름으로 이어지고 있다.

한편 기업들은 AI를 활용하는 목적에 있어 기술 트렌드보다는 실질적인 문제 해결을 중시하고 있다. 예컨대 하이마크 헬스는 다양한 언어로 고객과 소통하고 보험금 심사 절차를 간소화하는 데 대형 언어모델(LLM)을 적용하고 있다. 캐피털 원은 회사 내 각 기능을 수행하는 다수의 AI 에이전트를 운영해 리스크 분석, 감사, 대출 매칭 등 실무를 자동화했다. 여행업계에서도 챗GPT 등 LLM 기반 검색 기능을 반영해 사용자의 자연어 질의에 대응하는 플랫폼 개선 작업이 활발히 이뤄지고 있다.

조직 문화도 AI 도입에 따라 재편되고 있다. 트랜스폼 2025 콘퍼런스에서는 ‘소규모 스쿼드 팀’ 전략이 주목을 받았다. 윈드서프(Windsurf)의 CEO 바룬 모한(Varun Mohan)은 세 명에서 네 명으로 구성된 민첩한 개발 팀이 빠르게 아이디어를 실현하는 데 최적의 구조라고 강조했다. 깃허브(GitHub)와 아틀라시안(Atlassian)은 AI 에이전트를 운영·관리하는 역량이 이제 개발자에게 필수 요건으로 부상하고 있다고 밝혔다.

AI를 위한 애자일 개발과 ‘샌드박스 접근’도 등장하고 있다. AI 전문가 앤드류 응(Andrew Ng)은 개발 초기에 안정성과 거버넌스를 뒤로 미루더라도 먼저 실험과 가치 검증을 우선시해야 한다고 조언했다. 실제로 조사에 따르면 AI를 도입한 기업 중 10%는 아예 전문적인 AI 안전팀을 두지 않고 있을 정도다.

이처럼 기업용 생성형 AI는 이미 초기 단계의 테스트를 넘어 본격적인 비즈니스 실행으로 접어들고 있다. 더 많은 기업들이 여러 차례 시행착오를 겪으며 조직 구조와 전략을 개선하고 있는 가운데, 이들을 통해 얻은 교훈은 업계 전반의 변화 속도를 더욱 가속화시키고 있다. 기업이 AI 에이전트를 통해 수익과 효율을 증명하는 지금, 빠른 도입과 체계적인 실험이 실질적 경쟁력을 좌우하는 시대가 성큼 도래하고 있다.