제브, 텍스트 대신 확률 반환…자동화 판단 모델 공개

TypeSafe AI가 텍스트 대신 확률과 구조화된 판단을 반환하는 인공지능(AI) 모델 제브(Jev)를 공개했다. 이메일 분류와 요청 라우팅, 위험 판정처럼 소프트웨어가 결과를 직접 처리해야 하는 자동화 작업을 겨냥한 모델이다.

TypeSafe AI는 9월 15일 첫 번째 'System One 모델'인 제브를 얼리 액세스로 출시했다고 밝혔다. 제브는 자유로운 문장을 생성하는 대신 개발자가 미리 정한 선택지·점수·불리언 값과 각 판단의 확률·신뢰도를 반환한다.

제브는 코드 작성이나 대화형 답변을 위한 모델이 아니다. 입력된 상태와 질문을 바탕으로 승인 여부, 위험성, 처리 시스템 등을 판단하며 여러 질문을 한 번에 처리하는 병렬 샘플링도 지원한다.

기존 대규모 언어 모델(LLM)은 자연어를 생성하도록 설계돼 소프트웨어가 결과를 사용하려면 별도의 파싱과 검증이 필요한 경우가 많다. 제브는 출력 형식을 제한해 분류·점수화·검증 결과를 프로그램에 바로 연결하는 방식을 내세운다.

제브의 이름은 19세기 경제학자 윌리엄 스탠리 제번스(William Stanley Jevons)의 '제번스의 역설'에서 따왔다. TypeSafe AI는 지능 사용 비용이 내려가면 지능형 소프트웨어의 사용량이 오히려 늘어날 수 있다는 구상을 이름에 담았다고 설명했다.

TypeSafe AI는 제브에 '보정된 결정을 위한 강화학습(RLCD)'이라는 자체 학습 방식을 적용했다고 밝혔다. 회사는 응답 시간이 70~500밀리초이며 특정 System One 작업에서 기존 프런티어 모델보다 40~200배 빠를 수 있다고 주장했다.

TypeSafe AI 홈페이지에 공개된 자체 워크플로 평가에서는 제브가 기존 모델보다 193.6배 빠르고 444.6배 저렴한 것으로 제시됐다. 평가는 보안 사고 대응, 고객 서비스, 송장 처리 등 네 가지 예시 워크플로에서 모델별 정확도·비용·처리 시간을 비교하는 방식으로 진행됐다.

다만 이 비교는 독립 기관의 대규모 검증 결과가 아니라 회사가 설계한 평가 조건에 기반한다. TypeSafe AI는 일반 벤치마크 대신 실제 자동화 작업을 쪼개 평가했으며, 비교 대상 LLM에는 구조화 출력용 래퍼를 적용했다고 밝혔다.

가격은 입력 100만 토큰당 0.042달러(약 58원)다. 출력 토큰에는 별도 요금을 부과하지 않으며, 버셀(Vercel) AI Gateway에는 입력 100만 토큰당 0.04달러(약 55원)로 표시됐다.

버셀은 제브를 소프트웨어가 직접 사용할 수 있는 구조화 판단 모델로 소개하며 분류·라우팅·검증을 주요 용도로 제시했다. Pydantic AI 문서도 제브가 자유로운 텍스트 대신 입력에 대한 구조화된 판단과 확률을 반환한다고 설명한다.

TypeSafe AI는 구조적으로 정의된 결과만 반환하므로 타입 오류를 내지 않는다고 설명했다. 그러나 회사 약관은 서비스가 부정확하거나 오류가 있는 결과를 낼 수 있으며 사용자가 결과를 독립적으로 평가해야 한다고 명시한다.

따라서 '환각이 없다'는 설명은 자유로운 텍스트 생성이나 형식 오류가 없다는 의미로 해석해야 한다. 입력 해석이나 분류 판단 자체가 항상 정확하다는 뜻으로 확대해서는 안 된다.

개발자 반응은 엇갈렸다. 일부 개발자는 낮은 비용과 빠른 처리 속도에 관심을 보였지만, 회사가 제시한 결과가 실제 코드베이스에서도 재현되는지 확인해야 한다는 의견도 나왔다.

프라니트 샤르마(Pranit Sharma) 버셀 소프트웨어 엔지니어는 안전성 검토 분류 작업에서 OpenAI 모델을 제브로 교체한 결과 5~18배 빠르고 정확도가 높았다고 밝혔다. 비교 환경과 정확도 원자료 전체는 공개되지 않았다.

니킬 무돌카르(Nikhil Mudholkar) Bryo AI 최고기술책임자는 비즈니스 이메일 분류 테스트에서 제미나이가 정확도는 조금 높았지만 제브보다 10~20배 비쌌다고 말했다. 아르민 로나허(Armin Ronacher) Earendil 최고기술책임자는 제브의 확률 출력이 사람의 검토 여부를 나누는 기준이 될 수 있다고 평가하면서도 낮은 확률의 판단을 폐기할 기준은 사용자가 정해야 한다고 지적했다.

디오고 알메이다(Diogo Almeida) TypeSafe AI 창업자는 오픈AI에서 언어 모델의 지시 수행과 대화 능력을 높이는 연구에 참여했으며 해당 연구가 챗GPT의 기반이 됐다고 밝혔다. 제브의 아키텍처와 학습 데이터 규모, 표준 벤치마크 성적은 공개되지 않았으며, 실제 자동화 환경에서 회사가 제시한 성능과 비용이 유지될지는 추가 검증이 필요하다.