퍼플렉시티, 배치 읽기 지연 82% 줄인 데이터베이스 구축

퍼플렉시티가 AI 검색 서비스의 배치 읽기 중간값 지연시간을 31.4ms에서 5.60ms로 낮춘 자체 데이터베이스 CobbleDB를 구축했다. 회사가 제시한 전후 비교 기준으로 지연시간은 약 82% 줄었다.

퍼플렉시티는 9월 14일 공식 기술 글에서 기존 아마존 DynamoDB 기반 구조를 CobbleDB로 교체한 결과 이 같은 수치를 확인했다고 밝혔다. CobbleDB는 AI 검색의 읽기 중심 작업을 처리하도록 설계됐다.

느린 요청 구간에서도 지연시간이 낮아졌다. 90백분위 지연시간은 56.7ms에서 9.77ms로, 99백분위 지연시간은 123ms에서 24.2ms로 줄었다.

중간값은 전체 요청을 지연시간 순으로 배열했을 때 가운데에 해당하는 값이다. 90백분위와 99백분위는 상대적으로 느린 요청 구간을 보여주는 지표로, 평균값만으로는 파악하기 어려운 성능 변화를 설명한다.

CobbleDB는 기능을 세 계층으로 나눴다. 문서의 영속성과 업데이트는 ‘Pillar’가 담당하고, 배치 입력은 ‘Lorry’가 처리하며, 질의 시점의 저지연 읽기는 CobbleDB가 맡는다.

실제 데이터 저장에는 RocksDB가 사용됐다. 퍼플렉시티는 파티셔닝과 캐시 설정을 조정해 읽기 성능을 높였다고 설명했다.

이 구조는 모든 데이터베이스 작업을 대체하는 범용 시스템을 목표로 하지 않는다. CobbleDB는 강한 일관성과 복잡한 트랜잭션을 지원하지 않는 대신 검색 결과를 빠르게 반환하는 작업에 기능을 집중했다.

강한 일관성은 여러 데이터 복제본이 같은 시점에 동일한 값을 보장하는 방식이다. 검색 결과처럼 최신 데이터의 즉시 일치보다 응답 속도가 중요한 작업에서는 일관성 범위를 조정해 읽기 성능을 우선하는 설계가 가능하다.

퍼플렉시티는 9월 14일 공식 기술 글에서 대규모 운영을 전제로 CobbleDB가 DynamoDB보다 스토리지 계층 비용을 20% 이상 줄일 수 있다고 전망했다. 다만 이 수치는 회사 내부 추정치로, 실제 절감액과 적용 조건은 제시되지 않았다.

비용 절감 논리는 DynamoDB의 바이트 단위 과금 구조를 없애고 AI 검색 작업에 맞춰 저장·읽기 계층을 최적화하는 데 있다. 실제 비용은 요청량과 저장 데이터 규모, 운영 환경에 따라 달라질 수 있다.

개발 기간은 내부 AI 코딩 에이전트를 활용해 약 두 달로 단축됐다. 퍼플렉시티는 CobbleDB가 초당 수십만 건의 요청을 처리하는 규모에서 운영 검증을 마치면 오픈소스로 공개하겠다고 밝혔다.

퍼플렉시티는 오픈소스 공개 시점과 대규모 운영 검증 완료 여부를 정하지 않았다. 따라서 현재 공개된 성능 수치는 회사가 제시한 자사 환경의 전후 비교로 봐야 한다.

퍼플렉시티 검색 API가 인공지능 검색 API 지수에서 80점으로 1위를 기록한 앞선 사례와 함께 보면, 이 회사는 검색 결과를 생성하는 계층뿐 아니라 결과를 저장하고 불러오는 인프라도 자체 최적화하고 있다. 다만 두 수치는 평가 조건과 측정 방식이 달라 하나의 성능 지표로 합쳐 읽을 수는 없다.

이번 사례에서 확인되는 핵심은 모델 성능과 별개로 검색 서비스의 저장·조회 경로가 응답 속도에 영향을 줄 수 있다는 점이다. 배치 읽기와 느린 요청 구간을 따로 측정한 것도 읽기 중심 서비스의 운영 특성을 반영한 방식이다.

퍼플렉시티는 초당 수십만 건의 요청을 처리하는 규모에서 CobbleDB 운영 검증을 진행한 뒤 오픈소스 공개를 검토할 예정이다. 이후 실제 비용 절감 폭과 외부 환경에서의 성능 재현 여부가 확인 지점으로 남는다.