오픈렛저, GPU 하나로 수천 AI 모델 구동하는 OpenLoRA 출시

AI 블록체인 오픈렛저(OpenLedger)가 새로운 오픈 프로토콜 ‘OpenLoRA’를 공식 출시했다고 21일 밝혔다. 그동안 AI 산업의 고질병인 자원 낭비 문제를 해결할 수 있는 솔루션이라 관심이 쏠린다.

OpenLoRA는 특정 업무나 도메인에 최적화된 각각의 소형 모델에서 요구되는 GPU로 인한 비용과 리소스 낭비를 막을 수 있는 오픈 프로토콜이다. 단 하나의 GPU로 수천 개의 LoRA 방식의 AI 모델을 배포할 수 있도록 하여, 배포 비용을 최대 90%까지 절감할 수 있다.

블록체인 업계에서는 AI 모델이 디파이(DeFi) 자동화, 다오(DAO) 거버넌스 등 다양한 영역에서 핵심적인 기능을 수행하면서 AI 모델의 효율적 운용 인프라에 대한 수요가 빠르게 늘고 있다. 이에 따라 AI 모델 또한 다양한 분야에 적합하게 운용될 수 있도록 조정이 필요한데, LoRA(Low-Rank Adaptation), 즉 미세조정 기술을 적용해 효율을 높이고 비용을 줄일 수 있다.

특히 LoRA는 AI 모델의 보급 및 확산에 큰 기여를 할 전망이다. 현재 마케팅이나 고객 응대 등 특정 용도에 맞춘 AI 모델을 미세조정을 거쳐 활용하려면 모델 하나당 평균 3,000달러에 이르는 인프라 비용이 필요하다. 이런 모델을 수십, 수백 개를 활용하기 위해서 필요한 운영 비용은 천문학적인 수준까지 증가하게 된다.

반면 OpenLoRA는 사전 로딩 없이 하나의 GPU로 수천 개의 LoRA 모델을 실시간으로 병합하고 실행할 수 있도록 설계된 오픈 프로토콜이다. 이를 위해 양자화(Quantization), 플래시 어텐션(Flash Attention), 텐서 병렬 처리(Tensor Parallelism) 등 오픈렛저의 다양한 기술이 활용됐으며, 성능 저하 없이 높은 효율을 유지하는 것이 특징이다.

더불어 OpenLoRA는 ‘SaaS(Software-as-a-Service)’ 형태로 제공돼 개발자가 로컬 서버에 모델을 직접 올리지 않고, 웹 기반 인터페이스나 API를 통해 LoRA 모델을 바로 배포하거나 관리할 수 있다. 이를 통해 스타트업이나 대기업 등 각 기업에 맞는 분야와 규모에 맞춘 AI 모델을 출시할 수 있어, 맞춤형 AI를 대규모로 운영할 수 있게 하는 새로운 패러다임을 제시할 것으로 기대되고 있다.

오픈렛저의 핵심 기여자인 램 쿠마르(Ram Kumar)는 “AI 서비스의 확장이 지나치게 큰 비용을 요구해서는 안 된다”라며, “OpenLoRA는 AI 모델의 효율적인 서비스를 가능하도록 해 개발자들이 최소한의 비용으로 수천 개의 AI 모델을 고성능으로 서비스할 수 있도록 설계된 프로토콜”이라고 언급했다.

오픈렛저는 AI 개발과 운영에 블록체인 기술을 접목한 플랫폼이다. 사용자는 데이터를 제공하거나 모델 개발에 참여해 기여할 수 있으며, 이러한 활동은 시스템을 통해 투명하게 기록되고 보상받는다. 누구나 AI 생태계에 참여하고 함께 소유할 수 있도록 설계돼 있으며, 이를 토대로 신뢰성과 책임이 보장된 구조 속에서 AI 기술이 공정하게 활용되는 환경을 만들어가고 있다.