구글에서 선호하는 출처로 추가
미스트랄, 오픈AI 형식 API 공개…대화 기록은 개발자 관리
강이안 기자
미스트랄이 오픈AI Responses 형식의 API를 공개 프리뷰로 제공한다. 대화 기록 보관과 함수 실행은 개발자 응용 프로그램이 맡는다.
토포AI로 이 기사 더 깊이 읽기
미스트랄(Mistral AI)이 오픈AI(OpenAI)의 Responses 형식으로 자사 모델을 호출하는 API를 공개 프리뷰로 제공한다. 대화 상태를 서버에 저장하지 않는 방식이어서 대화 이력은 개발자 응용 프로그램이 관리해야 한다.
서비스 주소는 ‘/v1/responses’다. 미스트랄은 공식 문서에서 텍스트 생성과 이미지·문서 입력, 함수 호출, 응답 스트리밍을 지원한다고 밝혔다. Python과 TypeScript용 공식 개발 도구도 제공한다.
기존에 Responses 형식으로 구축한 연동 기능은 미스트랄 모델을 호출하는 데 활용할 수 있다. 다만 요청 형식이 같더라도 기능과 모델별 지원 범위까지 모두 같다는 뜻은 아니다.
이미지는 URL이나 base64 데이터로 입력할 수 있고, 파일은 HTTPS 주소·base64 데이터·업로드 파일 식별자로 전달할 수 있다. 이미지 처리는 비전 기능을 지원하는 모델에서 가능하다.
응답은 일반 문장 외에 JSON이나 JSON Schema에 맞춘 구조로 받을 수 있다. 정해진 데이터 형식에 맞춰 응답을 처리하는 응용 프로그램에 활용할 수 있다.
스트리밍을 켜면 답변이 완성될 때까지 기다리지 않고 생성되는 내용을 순서대로 받을 수 있다. 함수 호출도 지원하지만 실제 함수 실행은 모델이 아니라 개발자 프로그램이 담당한다.
모델이 외부 기능 사용을 요청하면 응용 프로그램이 함수와 인수를 확인해 실행한 뒤 결과를 모델에 전달한다. 미스트랄 문서는 주문 상태를 조회하는 예시를 제시한다.
API는 요청 사이의 대화 상태를 보관하지 않는다. 대화를 이어가려면 개발자 프로그램이 앞선 메시지와 모델 응답을 저장하고 다음 요청에 다시 포함해야 한다.
추론 설정은 모델에 따라 지원 범위가 다르다. 미스트랄 문서의 예시는 ‘mistral-large-4’를 사용하며, 다른 모델을 선택할 때는 해당 모델이 지원하는 추론 강도를 지정하도록 안내한다.
미스트랄은 앞서 삼성전자 주도로 30억유로 규모의 시리즈D 투자를 유치했다. 당시 회사는 조달 자금을 AI 연구개발과 컴퓨팅 역량, 인프라·제품 개발 등에 투입할 계획이라고 밝혔다.
Comment 0
불러오는 중…