매직 리서치, AI 추론 비용 90% 줄이는 '프라이빗 AI' 출시…보안·효율 한 번에 잡는다

기업의 민감한 데이터를 안전하게 인공지능으로 처리하려는 수요가 증가하는 가운데, 매직 리서치(Magic Research)가 고성능 AI 연산을 사내에서 처리할 수 있는 ‘프라이빗 AI(Private AI)’ 플랫폼을 선보이며 시장의 주목을 받고 있다. 이 플랫폼은 기존 클라우드 기반 AI 서비스 대비 최대 90%의 추론 비용 절감을 가능케 해, 특히 데이터 보안이 중요한 산업군에서 큰 반향을 일으키고 있다.

매직 리서치는 이번 제품을 통해 기업들이 방화벽 내부의 자체 인프라에서 AI 모델을 안정적으로 운영할 수 있도록 지원한다. 기반 기술인 '패브릭 하이퍼그리드(Fabric Hypergrid)'는 네트워크에 연결된 기존 CPU, GPU, 구형 하드웨어 등을 통합해 AI 슈퍼컴퓨터 수준의 성능을 제공하는 분산형 처리 메커니즘이다. 개발을 이끈 훔베르토 파리아스(Humberto Farias) 대표는 “추론 과정에서 신경망을 분산 처리(shard)해 특정 작업에 최적화된 하드웨어에 할당하고, 결과를 병합하는 방식으로 큰 비용 절감 효과를 가져왔다”고 설명했다.

특히, 프라이빗 AI는 동적 모델 라우터를 통해 작업 유형에 따라 적합한 연산 자원을 자동으로 할당하고, 고도화된 분산 처리로 연산 효율을 극대화하는 것이 강점이다. 파리아스 대표는 “AI 모델의 일부는 CPU로, 또 다른 일부는 GPU 혹은 액셀러레이터에 분산 처리해 빠르고 저렴하게 결과를 제공할 수 있다”고 강조했다.

매직 리서치는 보안이 중시되는 헬스케어, 정부, 법률 등 고위험 분야에서 AI 도입의 장벽으로 작용하는 데이터 유출, 권한 침해, 규제 불일치 등 사안을 해결할 만한 대안으로 이번 플랫폼을 내놓았다고 밝혔다. 실제 클라우데라의 최근 조사에 따르면, 기업 경영진 절반 이상이 외부 AI 서비스 도입 시 개인정보 보호에 대한 우려를 느끼고 있다.

회사 측은 현재 수십 개의 유료 고객사를 확보했으며, 플랫폼의 유연성도 강조하고 있다. 프라이빗 AI는 특정 모델에 종속되지 않고, 사용자 인터페이스, 워크플로우, 접근 권한 등을 고객사가 자유롭게 설정할 수 있는 화이트라벨 솔루션으로 제공된다. 또한, '게이트웨이AI(GatewAI)'라는 모듈은 산업별 규제에 맞는 콘텐츠 필터링, 로그 기록, 정책 집행 기능을 수행해 FERPA, HIPAA, GDPR, SOC 2 등 주요 요건을 충족한다.

서비스 요금은 고객 인프라 규모에 따라 월 5,000달러(약 720만 원)부터 시작되며, 매직 리서치는 인텔(Intel), 하버드 의대 등과 협력해 약 20명의 전문 인력이 플랫폼을 공동 개발한 것으로 알려졌다. 회사는 아직 외부 투자를 받지 않은 상태지만, 올해 안에 200만~300만 달러(약 29억~43억 원)의 매출을 올리며 첫 해부터 흑자를 달성할 수 있을 것으로 기대하고 있다. 빠르게 커지는 AI 추론 시장에서 프라이빗 AI는 비용 절감과 보안, 유연성이라는 세 가지 축을 내세워 차세대 AI 인프라 플랫폼으로 자리 잡을 가능성이 높다.