클라우드플레어, 의사결정 AI 모델 2종 공개…가중치 개방

클라우드플레어가 27B 의사결정 모델 클레프와 9B 모델 클레프 플래시를 공개하고, 모델 호스팅 서비스 Workers AI에 기업별 맞춤화 기능을 더했다. 두 모델은 자유로운 문장 대신 선택지별 확률을 반환해 AI 에이전트의 문의 분류와 다음 작업 선택을 돕는다.

클라우드플레어는 10월 1일 두 모델을 Workers AI에 올리고 가중치를 아파치 2.0 라이선스로 공개했다. 개발자는 클라우드플레어에서 모델을 이용하거나 가중치를 내려받아 자체 환경에서 실행할 수 있다.

일반적인 대규모언어모델(LLM)이 문장과 답변을 생성하는 것과 달리, 클레프 계열은 입력된 상황과 질문에 대해 미리 정해진 답변별 확률을 내놓는다. 고객 문의의 긴급 여부나 담당 팀을 묻는 식이다. 응답 형식이 제한돼 있어 에이전트가 결과를 다시 해석하는 단계를 줄일 수 있으며, 한 요청에 참·거짓·선택지·점수 평가 유형의 질문을 최대 64개 담을 수 있다.

클라우드플레어 공식 문서에 따르면 클레프는 최대 6만5536토큰의 문맥을 처리하고 텍스트, JSON, 이미지, 비디오를 입력받는다. 클레프 플래시는 지연시간이 중요한 작업을 겨냥했다. 두 모델은 Typesafe의 Jev 및 SystemOne API와 호환된다.

클레프 계열은 대화형 LLM을 대체하기보다 에이전트 작업 흐름에서 분류와 경로 선택을 맡는 용도에 가깝다. 에이전트가 정해진 선택지 가운데 다음 행동을 고른 뒤, 별도의 LLM이 설명이나 후속 작업을 생성하도록 연결할 수 있다.

클라우드플레어가 공개한 Decision Index 내부 평가에서 클레프는 BANKING77 분류 점수로 macro-F1 94.2를 기록했고 Jev는 79.7을 기록했다. 요청 지연시간 중앙값은 클레프 플래시 38.8밀리초, 클레프 209.3밀리초, Jev 524.1밀리초였다. 이 수치는 클라우드플레어의 자체 평가 결과다.

Workers AI 문서에 표시된 입력 가격은 토큰 100만 개당 클레프 0.24달러(약 325원), 클레프 플래시 0.09달러(약 122원)다. 전체 운영비를 비교하려면 사용량과 호스팅 조건, 작업별 정확도 요구도 함께 고려해야 한다.

클라우드플레어는 클레프를 고객 업무에 맞게 조정하는 강화학습 미세조정 서비스도 공개했다. 초기에는 고객과 직접 협력하고, 이후 데이터 수집부터 미세조정·재배포까지 지원하는 셀프서비스 플랫폼을 구축하겠다고 밝혔다. 이번 발표에는 자체 모델 공개와 기업별 맞춤화 지원이 포함됐다.