테넌트당 초당 100건 처리 제시한 니어 AI 클라우드, 오픈AI 호환 API

니어 AI 클라우드가 기존 오픈AI 클라이언트 코드를 유지할 수 있는 호환 API와 신뢰실행환경(TEE) 기반 프라이버시 검증을 앞세워 개발자 확보에 나섰다. 초기 문서에는 테넌트당 초당 100건의 요청을 처리할 수 있다고 제시됐다.

NEAR AI는 2025년 12월 3일 공개한 출시 문서에서 NEAR AI Cloud API가 완전한 오픈AI 호환을 지원한다고 밝혔다. 파이썬과 타입스크립트 SDK를 제공하며, 기존 클라이언트 라이브러리의 기본 URL과 API 키를 바꾸는 방식으로 서비스를 이용할 수 있다고 설명했다.

공식 예제는 https://cloud-api.near.ai/v1을 기본 URL로 지정한 뒤 모델명과 API 키를 변경하는 구조다. 개발자는 기존 애플리케이션의 코드 경로를 크게 바꾸지 않고 채팅 완성 등 API 기능을 시험할 수 있다.

다만 오픈AI 호환이 모든 기능과 동작의 완전한 동일성을 뜻하는 것은 아니다. 공개 저장소에는 채팅 완성, 일반 완성, 임베딩 등 여러 엔드포인트가 제시돼 있지만, 실제 지원 범위와 세부 제약은 모델별 문서에서 확인해야 한다.

NEAR AI Cloud가 차별점으로 내세우는 기술은 TEE다. TEE는 CPU와 GPU 내부의 격리된 영역에서 데이터와 코드를 처리하는 환경으로, 호스트 운영체제와 다른 애플리케이션으로부터 연산을 분리하는 데 활용된다.

NEAR AI는 요청을 TEE 안에서 처리하고 하드웨어 기반 증명인 attestation을 통해 연산이 검증된 보안 영역에서 이뤄졌는지 확인할 수 있다고 밝혔다. 공식 문서는 모델 제공자와 클라우드 사업자, NEAR AI가 사용자의 데이터를 열람하거나 학습에 사용할 수 없다고 설명한다.

Attestation은 특정 요청이 승인된 하드웨어와 소프트웨어 환경에서 실행됐다는 사실을 암호학적으로 확인하는 절차다. 이에 따라 개발자는 단순히 서비스 제공자의 보안 약속에 의존하지 않고 실행 환경을 별도로 검증할 수 있다.

성능 부담은 남아 있다. NEAR AI는 초기 출시 문서에서 일반 환경보다 지연시간이 약 5~10% 늘어날 수 있으며, 테넌트당 초당 100건의 요청을 처리할 수 있다고 밝혔다.

실제 지연시간과 처리량은 모델과 서비스 환경에 따라 달라질 수 있다. 특히 모델별로 TEE 적용 여부가 다를 수 있어, 모델 페이지에서 실행 환경과 attestation 제공 여부를 따로 확인해야 한다.

NEAR AI Cloud의 일부 모델은 NEAR AI GPU TEE가 아닌 외부 제공자 환경에서 실행될 수 있다. 이 경우 하드웨어 기반 attestation이 제공되지 않을 수 있어, 프라이버시 검증 수준이 모델마다 같다고 보기는 어렵다.

결제 방식은 니어프로토콜(NEAR)과 연결됐다. NEAR AI는 2026년 7월 30일 NEAR를 스테이킹해 AI 추론과 에이전트 호스팅용 크레딧을 받는 방식을 공개했다.

이 구조는 니어프로토콜(NEAR) 스테이킹을 AI 컴퓨트 이용권과 연결한 방식의 후속 사례다. 스테이킹한 자산의 소유권은 유지되지만, NEAR 가격 변동성이 기업의 비용 예측에 미칠 영향은 별도로 검토해야 한다.

API 사용과 NEAR 토큰 스테이킹 결제는 별도 기능이다. 개발자는 오픈AI 호환 API를 이용하면서 스테이킹 결제를 사용하지 않을 수 있고, 반대로 스테이킹을 활용할 때는 크레딧 구조와 비용 조건을 확인해야 한다.

결국 개발자가 확인할 항목은 API 호환성에 그치지 않는다. 모델별 지원 기능과 TEE 적용 여부, attestation 검증 절차, 지연시간과 처리량, 스테이킹 결제의 비용 구조를 함께 살펴봐야 한다. NEAR AI Cloud의 실제 개발자 채택 규모와 시장 점유율 변화는 공개 자료만으로 확인되지 않는다.