텍스트 생성 없는 AI 제브, 구조화 판단 모델 공개

TypeSafe AI가 텍스트를 생성하지 않고 구조화된 판단값을 출력하는 인공지능 모델 제브(Jev)를 공개했다. 이 모델은 분류·라우팅·정보 추출처럼 소프트웨어가 바로 활용할 수 있는 의사결정 작업을 겨냥한다.

TypeSafe AI는 15일(현지시간) 첫 번째 'System One 모델'로 제브를 출시했다고 밝혔다. 개발자 대상 얼리 액세스 방식으로 제공되며, 출력은 일반적인 문장이 아니라 사전에 정의된 형식의 값과 확률·신뢰도 점수로 구성된다.

제브는 입력된 정보를 여러 범주로 나누거나 적절한 처리 경로로 보내고 특정 항목을 추출하는 데 활용할 수 있다. 기존 규칙 기반 코드만으로 처리하기 어려운 모호한 판단을 구조화된 값으로 바꿔 프로그램에 연결하는 방식이다.

TypeSafe AI는 제브의 종단 간 응답 시간이 70~500밀리초라고 밝혔다. 같은 과제를 처리하는 선도 언어 모델의 응답 시간은 3~329초로 제시됐다.

회사는 작업 유형에 따라 제브가 기존 모델보다 40~200배 빠를 수 있다고 설명했다. 다만 이 비교는 TypeSafe AI가 공개한 자체 평가 결과다.

가격은 입력 토큰과 출력 토큰을 나눴다. 입력 비용은 100만 토큰당 0.042달러이며 출력 비용은 받지 않는다. TypeSafe AI는 한 번의 질의에서 여러 결과를 병렬로 처리하도록 모델을 설계했다고 밝혔다.

제브에는 '보정된 의사결정을 위한 강화학습(RLCD)'이 적용됐다. TypeSafe AI는 기존 언어 모델이 사람의 선호에 맞는 답변이나 문장을 만드는 데 최적화됐다면, 제브는 판단 결과의 확률과 신뢰도를 일관되게 제시하는 데 초점을 맞췄다고 설명했다.

모델은 이미지 입력을 처리하지 않으며 선택지 필드 수는 최대 255개로 제한된다. 평가도 MMLU 같은 공개 벤치마크가 아니라 TypeSafe AI의 자체 업무 자동화 워크플로를 기반으로 했다.

TypeSafe AI는 자체 평가에 편향이 포함될 수 있고 가격의 장기 지속 가능성도 추가 검증이 필요하다고 밝혔다. 따라서 공개 벤치마크 성능이나 장기 비용 효율을 제브의 일반적인 우위로 확대해석하기는 어렵다.

디오고 알메이다(Diogo Almeida) TypeSafe AI 창업자는 오픈AI에서 InstructGPT 관련 연구에 참여했다. TypeSafe AI의 공식 발표는 제브가 문장 생성 대신 구조화된 결과를 반환한다고 설명했다.

투자사 DCVC는 TypeSafe AI가 자동화에 초점을 맞춘 모델을 개발하고 있다며 4000만달러(약 544억원) 규모의 시드 투자를 주도했다고 밝혔다. 해당 내용은 DCVC 발표에 담겼다.

제브는 대화형 인공지능을 대체하는 모델이라기보다 기존 소프트웨어에 연결되는 판단 모듈에 가깝다. 문장 생성 능력 대신 속도와 출력 형식의 일관성을 강조한 것이 특징이다.

제브가 실제 자동화 환경에서도 자체 평가에서 제시한 응답 시간과 비용 구조를 유지할 수 있을지는 사용 사례와 추가 검증 결과에 달려 있다. TypeSafe AI는 현재 개발자 대상 얼리 액세스 방식으로 모델을 제공하고 있다.