제타큐브, 삼성SDI(현 허드슨첨단소재코리아)에 온프레미스 AI 서버 ‘SAI’ 공급

제타큐브는 삼성SDI(현 허드슨첨단소재코리아) 청주사업장에 온프레미스 인공지능 서버 ‘SAI’를 공급하고, 이를 기반으로 빅데이터 지능형 문서 검색 시스템 구축을 완료했다. 해당 시스템은 외부 네트워크 차단 환경에서도 대규모 LLM을 안정적으로 운영할 수 있어 보안 강화와 신속한 업무 지원이 가능하다. 제타큐브는 이번 사례를 계기로 온프레미스 AI 인프라 확산에 속도를 낼 계획이다.

초소형 AI 데이터센터 솔루션 ‘나노DC(NANODC)’와 온프레미스 인공지능 서버 ‘SAI(System to AI)’를 공급하는 제타큐브는 삼성SDI(현 허드슨첨단소재코리아) 청주사업장에 자사의 온프레미스 오픈소스 LLM 기반 AI 서버 시스템 ‘SAI’를 공급했다고 밝혔다.

[사진 - 삼성SDI (현 허드슨첨단소재코리아) 청주사업장에서 제타큐브 조정현대표]

제타큐브의 ‘SAI’는 외부 인터넷 연결 없이 로컬 네트워크 환경에서 독립적으로 운영되는 온프레미스 방식의 인공지능 서버 솔루션이다. 기존 클라우드 기반 LLM 서비스 이용 과정에서 발생할 수 있는 보안 이슈와 느린 응답 속도, 높은 사용 비용, 시스템 접근 제한 등의 한계를 보완하기 위해 개발됐다. ‘System to AI’라는 명칭처럼 기존 기업 시스템을 AI 기반으로 전환하는 시스템 통합(SI) 서비스까지 포함한 것이 특징이다.

삼성SDI는 약 50여 년간 편광 필름 등 첨단 부품·소재를 생산하며 축적된 품질관리 자료와 생산 이력, 사규, 매뉴얼 등 방대한 문서 데이터를 보유하고 있었으나, 기존 데이터베이스 기반 검색 시스템으로는 다국어 문서와 특수·산업용 용어가 혼재된 자료를 사용자의 의도에 맞게 검색·활용하는 데 한계가 있었다.

Elastic Search 등 기존 검색 기술과 다양한 알고리즘을 적용했지만 단순 키워드 검색을 넘어선 지능형 검색 구현에는 어려움이 있었고, 삼성 그룹의 보안 정책상 외부 인터넷 연결이 불가능해 클라우드 기반 솔루션 도입도 쉽지 않은 상황이었다.

이 같은 배경에서 제타큐브는 지난 4월 열린 월드 IT 쇼에서 온프레미스 오픈소스 LLM 기반 ‘SAI’ 솔루션을 처음 공개했다. 이를 접한 삼성SDI는 장기간의 검토를 거쳐 10월 말 시스템을 납품받아 문서 검색 시스템 개발에 착수했으며, 12월에 구축을 완료했다.

이번에 구축된 시스템은 제타큐브의 ‘SAI-4000’ 시리즈로, 합리적인 비용으로 80B(800억) 파라미터 규모의 대형 언어모델을 안정적으로 운영할 수 있도록 최적화된 고성능 AI 서버 솔루션이다. 제타큐브는 오픈소스 LLM과 벡터 데이터베이스(DB)를 기반으로 삼성SDI의 요구사항에 맞춘 워크로드와 파이프라인을 구성하고, 데이터 정제와 임베딩 작업까지 전반적인 구축을 지원했다.

모든 개발과 운영 과정은 외부 네트워크가 완전히 차단된 온프레미스 환경에서 진행돼 자료 유출 우려를 원천적으로 차단했으며, 로컬 네트워크 기반 운영을 통해 클라우드 환경 대비 수배 이상 빠른 응답 속도를 구현했다.

림 – 구축된 인공지능 빅데이터 검색 시스템 구성도]

구축된 시스템은 삼성SDI가 40여 년간 축적한 매뉴얼과 생산 기록, 품질관리 문서, 사규 등을 카테고리별로 지능적으로 검색하고, LLM이 실시간으로 요약해 원문 접근을 지원한다. 이를 통해 업무 효율 향상은 물론 신입사원 교육과 내부 지식 관리 등 다양한 분야에서 활용될 것으로 회사 측은 기대하고 있다.

조정현 제타큐브 대표는 “이번 삼성SDI SAI 서버 공급은 온프레미스 방식의 ‘기업 전용 인공지능 서버’가 효율성과 보안성을 동시에 갖출 수 있음을 보여주는 사례”라며 “빈번해지는 보안 사고를 원천적으로 차단하면서도 기업의 핵심 자산을 AI에 안전하게 학습시킬 수 있는 최적의 솔루션임을 입증했다”고 말했다.

제타큐브는 앞으로 다양한 고객층에 특화된 SAI 서버 패키지를 지속적으로 선보이는 한편, 주력 솔루션인 나노데이터센터(NANODC)를 기반으로 한 분산형 AI 클러스터를 통해 인공지능 인프라의 대중화를 선도해 나갈 계획이다.