오픈소스 vs 폐쇄형?… AI 모델 선택, 혼합 전략이 답이다

기업들이 인공지능(AI)을 도입함에 있어 '오픈소스'와 '폐쇄형 모델' 중 어떤 경로를 선택해야 하는지가 핵심 과제로 떠올랐다. 오픈AI(OpenAI), 앤스로픽(Anthropic) 등 주요 폐쇄형 모델과 메타(Meta)의 라마, IBM의 그라나이트, 알리바바의 취엔, 딥시크(DeepSeek) 등 오픈소스 모델이 각기 장단점을 갖춘 채 공존하면서, 어느 하나를 일방적으로 고르기보다는 각 기업의 상황에 맞춘 '혼합' 전략이 요구되고 있다.

지난 수십 년 동안 기술 시장에서 오픈소스와 폐쇄형 기술 간의 경쟁은 끊임없이 이어져 왔다. 과거에는 리눅스와 윈도우, 파이썬과 자바스크립트라는 개발 언어의 대립 구도가 대표적이었다면, 이제는 AI 모델 선택에서도 유사한 양상이 전개되고 있는 셈이다. 특히 AI 관리 구조가 더욱 복잡해진 2025년 현재, 기업들이 오픈소스냐 폐쇄형 모델이냐를 단순 이분법으로 결정하기 어려운 이유도 여기에 있다.

폐쇄형 AI 모델은 일반적으로 코드, 데이터, 모델 웨이트가 비공개이며, 고객은 주로 정해진 API를 통해 사용하게 된다. 반면 오픈소스 모델은 코드와 학습구조가 공개되어 있어 자유롭게 수정, 재구성, 파인튜닝이 가능하다. 이에 따라 기업들은 보안 및 민감 데이터 보호가 필요한 경우 폐쇄형 모델을, 빠른 실험과 사용자 맞춤형 기능 구현이 필요한 경우 오픈소스 모델을 선택하는 추세다.

EY 아메리카의 생성형 AI 리더 데이비드 과레라(David Guarrera)는 이 문제를 ‘상호 배타적인 선택이 아니라 유동적인 설계 공간’이라고 설명한다. 과레라에 따르면 대부분의 기업들이 워크플로우에 따라 정확도, 응답 속도, 비용, 해석 가능성, 보안 등의 요소를 비교 검토하며 상황에 따라 서로 다른 모델을 병용하는 방향으로 진화해가고 있다는 것이다. 특히 이후 AI 환경이 작업 전용 에이전트 중심 구조로 진입하는 ‘에이전트 지향’ 미래에서는 모델 선택이 사용자에게 보이지 않는 형태로 일상화될 것이란 분석도 나왔다.

중요한 변수는 총소유비용(TCO)이다. 폐쇄형 모델은 사용료가 필요하지만, 상용화된 인프라와 기술지원까지 포함되어 있다. 반면 오픈소스 모델은 초기 사용료가 없지만, 자체 호스팅과 보안, 유지관리 등에서 인력과 리소스가 많이 들 수 있다. 인사이트 파트너스(Insight Partners)의 프라빈 아키라주(Praveen Akkiraju)는 오픈소스를 선택할 경우 엔지니어링 수준에 따라 오히려 비용이 상승할 수 있다고 지적했다. 단순히 무료 모델이라는 이유로 접근하면 실제 운영에서 예기치 못한 복잡성이 발생할 수 있다는 것이다.

이와 관련해 클라우드 네이티브 서비스 기업 케일런트(Caylent)의 데이터 부문 책임자 라이언 그로스(Ryan Gross)는 비용구조에서 일정 사용량을 초과하면 오픈모델 사용이 유리해지나, 대부분의 기업에게는 여전히 폐쇄형 모델이 총비용이 낮을 것이라고 분석했다. 하지만 LLM(초거대 언어 모델)을 대규모로 사용하는 SaaS 기업이나 AI 중심 제품을 개발하는 기업은 오픈모델을 자체 호스팅하는 전략이 더 경제적일 수도 있다고 강조했다.

기업용 보안 소프트웨어를 개발하는 세컨드 프론트 시스템즈(Second Front Systems)의 CTO 조시 보스케즈(Josh Bosquez)도 실제 현장에서 두 모델을 함께 사용하는 사례를 소개했다. 그는 오픈모델을 빠른 실험과 프로토타이핑에 활용하고, 고객 데이터와 관련된 보안 민감 영역에서는 폐쇄형 모델을 선호한다고 밝혔다. 특히 구매 의사결정 과정에서 단순 성능 뿐 아니라 데이터 처리 정책, 통합 요건, 확장성까지 포함해 다각도로 검토한다고 전했다.

결국 AI 전략에서 모델 선택은 ‘혼합 포트폴리오’ 접근 방식이 될 수밖에 없다는 점에서 2025년 이후의 기업 전략은 보다 정교하고 유연할 필요가 있다. 자사 엔지니어링 수준과 데이터 복잡도, 보안 요구사항, 경영 리스크를 종합적으로 고려해 어떤 모델을 언제, 어떻게 활용할지에 대한 명확한 로드맵을 수립해야 한다. 아울러 다양한 모델을 자동으로 할당하는 오케스트레이션 플랫폼 도입도 필수 경쟁 요소로 떠오르고 있다.

AI 투자를 앞둔 기업들이 고려해야 할 질문은 이제 분명하다. 특정 모델을 고를 것인가가 아니라, 내 워크플로우에 최적인 모델 조합은 무엇인가다. 이 질문에 대한 명확한 답을 찾는 기업만이 인공지능 시대에서 진정한 생산성과 경쟁우위를 동시에 확보할 수 있을 것이다.