기업용 생성형 인공지능 솔루션 업체 레모니(Lemony)가 기업들이 클라우드 의존 없이 독자적인 모델 운영이 가능하도록 만든 온프레미스 AI 제품을 출시했다. 이른바 ‘AI 박스’로 불리는 이 제품은 사전 세팅된 하드웨어 노드를 통해 모든 AI 스택을 로컬 환경에서 즉시 실행할 수 있게 해준다.
레모니의 새 제품은 복잡한 설치나 고급 기술 지식 없이도 사용이 가능하며, 기기당 최대 5명의 사용자를 지원한다. 여러 팀이 병렬로 운영할 수 있도록 확장성을 제공한다는 점도 강점이다. 특히 헬스케어, 금융, 법률, 공공기관 등 프라이버시가 중요한 산업군이 주요 타깃이다.
이번 제품은 클라우드를 거치지 않고도 대형 언어 모델을 구동할 수 있도록 설계됐다. 데이터 주권, 규제 준수, 섀도우 AI에 대한 우려를 해소할 수 있다는 점에서 주목받고 있다. 레모니는 해당 시스템이 수천 건의 문서와 파일을 분석하고 인사이트화하는 데 실질적인 도움을 줄 수 있다고 강조했다.
사스차 뷔를레(Sascha Buehrle) 최고경영자(CEO)는 “레모니는 AI 활용의 장벽을 낮추고 보안성과 효율성을 동시에 제공한다”며 “모든 조직이 기술을 통제할 수 있어야 하고, 우리는 이를 ‘박스’로 실현했다”고 밝혔다.
이번 출시에는 기술 파트너들의 협력도 이어졌다. IBM은 자체 개발한 그라나이트(Granite) 모델을 사전 탑재한 형태로 레모니와 손잡았고, 개발자 도구 전문 업체인 젯브레인스(JetBrains)는 AI 코드 도우미 기능을 하드웨어에 직접 통합했다. 이외에도 미국 정부 인증 유통사인 차라소프트(Charasoft)가 공공 및 의료 고객을 대상으로 제품 공급에 나선다.
이 제품은 미국과 유럽에서 생산되며, 정식 출시 전부터 법률, 유통, 헬스케어, 금융 부문 고객에 채택됐다. 조직 내 다양한 팀이 각자의 노드 또는 클러스터를 독립 운영하면서도, AI 생성 정보의 교차 공유는 중앙에서 통제할 수 있는 ‘연합 아키텍처’ 방식도 특징이다.
레모니는 현재 진 벤처스(True Ventures) 등으로부터 200만 달러(약 28억 8,000만 원)의 초기 투자를 유치한 상태다. ‘생성형 AI의 로컬화’ 흐름이 거세지는 가운데, 이번 제품은 프라이버시와 성능을 동시에 중시하는 기업 수요를 정확히 겨냥한 전략으로 풀이된다.