인공지능(AI) 도입 속도가 빨라지면서 기업들 사이에서 애플리케이션 프로그래밍 인터페이스(API)의 전략적 중요성이 부각되고 있다. 최신 AI 시스템이 실시간 맥락 이해와 안전한 의사결정, 빠른 피드백 루프를 요구함에 따라, 견고한 API 인프라가 그 기반으로 떠오르고 있다. 리자 샤피(Kong 부사장)는 최근 열린 'Kong API 서밋'에서 “API는 LLM의 행동을 완성해주는 팔다리 같은 존재”라며 AI와 API 간 통합의 필요성을 강조했다.

그는 LLM이 독립적으로 뛰어난 계산 능력을 지니고 있어도, 외부 환경과 소통하며 실제 작업을 수행하기 위해선 API 플랫폼이 필수라고 설명했다. 특히, API가 실시간 데이터를 LLM에 전달할 수 있어야 진정한 ‘프로그래머블 AI 에이전트’ 시대가 열릴 수 있다는 점에 주목할 필요가 있다. 샤피의 표현에 따르면 “뇌만 있고 팔다리가 없다면, AI는 아무것도 할 수 없다.”

Kong은 이 같은 변화에 맞춰 기업들이 API와 LLM을 유기적으로 연계할 수 있도록 지원하는 플랫폼을 선보이고 있다. 대표적인 예로 'Model Context Protocol(MCP)'과 ‘Kong Konnect’는 여러 개의 백엔드 API를 하나의 에이전트 툴로 통합할 수 있는 기능을 제공한다. 예컨대, 소비자 행동 데이터 API, 고객지원 시스템 API, 제품 피드백 API 등을 하나로 엮어 고객 만족도를 실시간으로 측정할 수 있는 툴을 30분 만에 구현할 수 있다는 것이다.

샤피는 “이제 API 플랫폼은 단순한 연결 도구가 아닌, AI 기능과 직접 맞닿아 있는 핵심 요소가 됐다”며, 대규모 AI 시스템 개발에서 API의 복잡성을 줄이고 보안을 강화하는 것이 더 이상 선택이 아닌 필수라고 설명했다. API를 견고하게 설계하지 않으면 에이전트형 AI의 오작동 위험이 커지고, 이는 기업 서비스 전체의 신뢰도에 영향을 끼칠 수 있다.

이처럼 AI가 기업의 핵심 전략으로 자리잡고 있는 현 시점에서, API 플랫폼의 역할도 과거와는 전혀 다른 차원에서 재정의되고 있다. 업계는 지금 API를 어떻게 설계하고 연동하느냐에 따라, 향후 AI 시대의 주도권이 결정될 수 있다고 입을 모은다. API는 단순한 인터페이스를 넘어, 인공지능이 실제로 세상과 연결되고 작동하게 만드는 필수 인프라로 급부상하고 있는 것이다.