레모니, ‘AI in a Box’로 사내 생성형 AI 혁신 본격화… 클라우드 대안 제시

레모니(Lemony)가 'AI in a Box'라는 개념을 앞세워 온프레미스 인공지능(AI) 시대를 선언했다. 클라우드 의존 없이 데이터를 기업 내부에서 안전하게 활용할 수 있는 이 플러그 앤 플레이 하드웨어는 복잡한 인프라 준비 없이도 생성형 AI 활용을 가능케 한다. 보안과 컴플라이언스 이슈로 AI 도입을 주저하던 기업들에게 강력한 대안을 제시하면서, 레모니는 진정한 사내 AI 혁신의 초석이 될 채비를 마쳤다.

레모니의 AI 노드는 특별한 설치나 전문 기술 없이도 AI 운영 환경을 구축할 수 있는 것이 핵심이다. 이 장치는 IBM, 메타 등의 고성능 오픈소스 AI 모델을 사전 탑재한 상태로 제공되며, 최대 다섯 명이 동시에 사용할 수 있다. 사용자는 기기를 컴퓨터나 내부 네트워크에 연결하고 각자의 파일을 업로드하기만 하면 바로 생성형 AI 기능을 활용할 수 있게 된다. 이메일, PDF, 내부 문서 등 잠들어 있던 데이터를 활성화해 조직 지식 자산을 검색 가능하고 활용할 수 있는 형태로 전환한다.

사샤 뷔얼레(Sascha Buehrle) 최고경영자(CEO)는 “기업들이 생성형 AI 환경을 신속하게 확보하되, 클라우드의 위험과 복잡성 없이 실행 가능하도록 만들자는 것이 우리의 출발점”이라고 밝혔다. 그는 기존 AI 인프라 도입의 장애 요소로 물 냉각 시스템, 전력 설계, 승인 절차 등을 꼽으며, 레모니는 이러한 장벽을 허물기 위해 등장했다고 강조했다.

이러한 목표 달성을 위해 레모니는 업계 대형 파트너들과 협력하고 있다. IBM은 자사의 AI 모델을 레모니 하드웨어에 최적화해 배포하며, 제트브레인스(JetBrains)는 개발자들이 자체 기기로 AI 코딩 및 보안 테스트를 수행할 수 있도록 자사의 개발 도구를 통합했다. 또, 미국 내 정부 및 의료기관 전문 유통업체인 차라소프트(Charasoft)는 공공·고위험 산업에 안성맞춤인 형태로 레모니를 공급한다.

레모니는 장기적으로 사내 AI의 분산·연결형 접근을 목표로 하고 있다. 각 팀은 자체 노드 혹은 클러스터를 운영하면서, 설정한 접근 정책에 따라 내부 지식을 타 부서와 조율·공유할 수 있다. 데이터 주권을 유지하면서도 기관 전체의 AI 협업 효율을 높이는 설계다. 클라우드 연결이 없고, 보안 키와 정기적인 USB 업데이트를 통해 하드웨어가 발전하면서도 내부 시스템의 보안성을 유지할 수 있다.

가격은 월 499달러(약 72만 원)이며, 최대 5인 사용자 기준 하드웨어, 소프트웨어, 업데이트 및 지원이 포함된다. 복수 노드 구성 시 가격은 개별 단가보다 낮아지고, 기업은 부서별 또는 멀티모델 운영이 가능하다. 현재 레모니는 법률, 의료, 유통, 금융 전문직 등 다양한 산업에 도입돼 있으며, 미국과 유럽에서 제조된 이 장치는 규제가 엄격한 시장에서도 활용 가능한 설계를 기반으로 한다.

레모니는 지금까지 420만 달러(약 60억 5,000만 원)의 자금을 유치했고, 트루 벤처스(True Ventures)가 주도 투자에 참여했다. 메타의 AI 분야 영향력 있는 인물인 니콜라 보팅턴 등을 전략 고문으로 두고 있다. 뉴욕에 본사를 둔 이 스타트업은 17명의 전문 인력으로 구성돼 있으며, 기업 AI 보안과 접근성 강화를 위한 도전에 박차를 가하고 있다.