엔터프라이즈 소프트웨어의 핵심 구성 요소였던 API와 인공지능(AI)이 최근 급속하게 융합되며 새로운 전환점을 맞고 있다. 과거엔 애플리케이션 간 연결을 담당하던 API와 데이터를 학습해 판단을 내리는 AI가 각각 따로 운영되었으나, 이제는 API 트래픽과 AI 트래픽이 통합돼야 한다는 패러다임 전환이 기업 현장에서 본격화되고 있다.

콘그(Kong Inc.)의 공동 창업자이자 CEO인 아우구스토 마리에티는 최근 열린 ‘API 서밋: 에이전틱 시대를 위한 API 서밋’에서 “이제 API는 마이크로서비스뿐만 아니라 에이전트형 AI 모델의 행동을 제어하는 가드레일 역할까지 한다”며 API와 AI를 아우르는 단일 제어계층의 필요성을 강조했다. 그는 API 요청과 AI 모델이 생성·활용하는 토큰 간의 흐름을 함께 다룰 수 있는 통합 플랫폼이 AI 시대의 인프라 필수 조건이 될 것이라고 말했다.

마리에티는 특히, AI 모델이 API를 통해 호출되고 이에 반응하는 구조로 시스템이 전환되면서 양측 흐름을 하나의 관리 인터페이스에서 추적하고 제어할 수 있어야 한다고 덧붙였다. 그는 “지금은 API 콜이 아닌 토큰을 중심으로 지능이 움직이는 시대”라며 “토큰은 컨텍스트를 담고 에이전트와 AI가 이를 소비하면서 비즈니스 인사이트를 창출하기 때문에, 이를 지원할 수 있는 통합 트래픽 계층이 필수”라고 설명했다.

콘그가 추구하는 방향은 기술 스택을 가리지 않는 유연한 통합성이다. 메인프레임 기반 API부터 아마존웹서비스(AWS) 인프라, 대규모 이벤트 스트리밍 플랫폼인 카프카, 그리고 에이전트 기반의 AI 워크플로우까지 — 콘그는 이 모든 아키텍처에 대응할 수 있는 게이트웨이를 제공한다고 회사는 밝혔다. 이런 구조는 기업의 기술 도입 속도와 디지털 성숙도에 상관없이 각각의 고유한 IT 환경에 맞춰 통합이 가능하다.

이러한 접근은 비용과 통제력을 최적화한다는 측면에서도 유리하다. API 요청에서 AI 모델의 토큰 소비까지의 전체 트래픽 흐름을 단일 플랫폼에서 추적할 수 있기 때문에, 기업은 어디에서 어떤 모델이 얼마나 쓰이고 있는지를 명확하게 파악할 수 있다. 이는 예산 책정, 비용 통제, 보안 정책, 그리고 이상 징후 대응에도 강점을 제공한다.

결과적으로, API와 AI의 융합은 단순한 시스템 통합이 아니라 엔터프라이즈 전체의 디지털 운영 모델을 근본적으로 바꾸는 기술적 전환점이다. API와 LLM 기반 토큰이 단일 레이어에서 관리됨으로써 기업은 더욱 정밀하고 유연한 데이터 활용이 가능해졌고, 이는 AI가 단지 스마트 기능이 아니라 기업 전략의 중추로 부상했음을 의미한다.

마리에티는 “각종 트래픽을 통합적으로 볼 수 있어야 진정한 가시성(observability)이 확보된다”며 “API와 AI가 만나는 시대에선 결국 모든 것이 통제 가능하고 확장 가능한 플랫폼 위에서 운영돼야 한다는 것이 핵심”이라고 강조했다.