콘플루언트, 실시간 AI 대응 강화…‘스트리밍 에이전트’ 전격 공개

콘플루언트(Confluent)가 신규 기능 ‘스트리밍 에이전트(Streaming Agents)’를 자사 클라우드 플랫폼에 공개하며, 실시간 데이터 기반의 에이전트형 인공지능(AI) 애플리케이션 구축을 본격화했다. 이번 기능은 특히 금융, 헬스케어, 광고 등 시간 민감형 산업군에서 실제 운영 환경에 적용 가능한 대규모 에이전트형 AI 시스템 구현을 돕는 것을 목표로 한다.

스트리밍 에이전트는 실시간 데이터 처리를 기반으로 AI 모델이 변화하는 비즈니스 조건에 맞춰 스스로 판단하고 즉각적으로 대응하도록 설계됐다. 콘플루언트 전략기술 책임자 앤드루 셀러스는 “강력한 생성을 넘어 맥락 인식 능력이 진짜 ROI를 결정짓는 핵심”이라며, “그 역할을 충실히 수행하기 위해 도메인에 특화된 실시간 데이터 통합이 절실하다”고 강조했다.

그는 기업 대부분이 생성형 AI를 테스트 단계에선 적극적으로 도입했지만, 실운영 수준까지 끌어올린 경우는 평균 3건 남짓에 그쳤다고 지적했다. 이처럼 확장이 어려운 가장 큰 이유로는 신뢰할 수 있는 실시간 현장 데이터 부족이 꼽힌다.

콘플루언트는 아파치 플링크(Apache Flink) 기반의 스트리밍 처리와 에이전트 프레임워크를 결합해, 이벤트 기반의 AI 에이전트가 지속적으로 감지, 판단, 행동할 수 있는 환경을 제공한다. 예를 들어, 자금세탁방지(AML) 시스템에선 수상한 금융 거래 흐름을 인식하고, 과거 판례에 따라 자동 보고서를 작성한 뒤 이를 인간 조사관에게 전송하는 방식으로 활용할 수 있다.

이번 기능은 아파치 카프카(Apache Kafka)와 플링크의 조합을 중심에 두고 있다. 메시지 시스템 간 전달과 재생(replay)을 담당하는 카프카와 복잡한 이벤트 처리 및 워크플로우 유지를 위한 플링크의 장점을 합쳐, 기민하게 대응하는 분산형 에이전트 시스템의 토대를 마련한 셈이다.

에이전트는 실시간 카프카 스트림 데이터를 REST API, 벡터 데이터베이스, 관계형 데이터베이스 등 다양한 외부 도구와 연결해 분석하거나 상황별 맥락을 증강할 수 있다. 이를 통해 RAG(검색 기반 생성) 같은 응용 분야에서도 더욱 정교한 의사결정이 가능하다. 또한 실제 운영 환경에 영향을 주지 않는 테스트 환경을 지원해, 안전한 A/B 테스트와 다크 론칭도 수월하게 할 수 있도록 구성됐다.

특히 이번 시스템은 모델 컨텍스트 프로토콜(Model Context Protocol, MCP)을 채택해 외부 도구 호출 시 보안성과 유연성을 강화했다. 콘플루언트는 MCP가 현재 이 분야의 사실상 업계 표준으로 빠르게 자리잡고 있다고 평가했다.

이번 스트리밍 에이전트 기능은 현재 콘플루언트 클라우드를 사용하는 모든 고객에게 오픈 프리뷰 형태로 제공된다. 향후 본격적인 상용화를 위해 실시간 AI 에이전트를 도입하고자 하는 기업들의 활발한 피드백 수집이 예상된다.