Mistral AI, 클라우드 스타트업 Koyeb 인수로 AI 워크로드 효율 강화

Mistral AI는 오늘 AI 워크로드를 실행할 수 있는 클라우드 플랫폼을 보유한 스타트업 Koyeb을 인수했다고 발표했다. 이번 거래의 '금융 조건'은 공개되지 않았다. 파리에 본사를 둔 Mistral는 오픈소스 대규모 언어 모델 시리즈와 여러 유료 서비스를 제공하며, 지난해 11.7억 유로의 평가를 받았다.

Koyeb은 2023년에 삼성 넥스트 등의 지지를 받아 700만 달러를 조달했다. 이 회사의 플랫폼은 개발자들이 하드웨어를 직접 관리하지 않고도 AI 워크로드를 실행할 수 있도록 돕는다. Koyeb은 수요 변화에 따라 자동으로 하드웨어 자원을 조정하는 오토스케일링 기능을 제공해, 필요 없는 애플리케이션은 비활성화 상태로 유지한다.

개발자가 비활성화된 작업을 다시 시작하는 데 시간이 많이 걸리는 문제를 해결하기 위해 Koyeb은 200밀리초 이내에 워크로드를 재가동할 수 있는 메커니즘을 도입했다. 이 회사는 최대 8개의 GPU를 갖춘 인스턴스를 전 세계 10개의 데이터 센터에 분산 배치해 고객의 워크로드를 처리하며, 특정 시설의 문제가 발생하면 다른 사이트로 트래픽을 우회한다.

또 Koyeb의 새로운 기능 중 하나는 AI 에이전트를 안전하게 실행할 수 있는 'Koyeb Sandboxes'로, 이는 코드를 생성하는 등의 작업을 위해 하루 수천 개의 에이전트를 생성할 수 있다. Mistral는 Koyeb의 기술을 활용해 자신의 코드 생성 모델 사용자에게 제공하는 샌드박싱 기능을 개선할 예정이다.

Koyeb의 기술은 Mistral Compute 플랫폼을 향상시키는 데도 사용될 예정이며, 이 플랫폼은 엔비디아(Nvidia) GPU를 탑재한 수냉식 서버로 구동된다. 이번 인수로 Mistral는 GPU 사용 효율성을 높이고, 자사의 대규모 언어 모델이 고객의 자체 데이터 인프라에서도 원활히 작동할 수 있도록 개선할 계획이다. Koyeb의 16명 팀은 Mistral의 기술 개발을 지원하기 위해 3월에 합류할 예정이다.