AI 해석 기술 스타트업 굿파이어, 2,160억 원 투자 유치…기업가치 1조8천억 돌파

AI 모델의 의사결정 과정을 추적·해석하는 플랫폼을 개발 중인 스타트업 굿파이어(Goodfire)가 최근 시리즈 B 투자 유치에서 1억 5,000만 달러(약 2,160억 원)를 조달했다. 이번 투자 라운드는 B 캐피털이 주도했으며, 세일즈포스와 전 구글 CEO 에릭 슈밋(Eric Schmidt)을 비롯한 다수의 투자자가 참여했다. 이로써 굿파이어의 기업 가치는 12억 5,000만 달러(약 1조 8,000억 원)로 뛰었다.

굿파이어는 대형언어모델(LLM)의 복잡한 내부 작동 원리를 시각화·분석하는 기술에 집중하고 있다. 수만 개의 인공 뉴런이 상호작용하는 LLM의 경우, 어느 요소가 핵심적인 역할을 하는지 파악하기 어렵다. 굿파이어는 이 문제를 해결하기 위한 전용 플랫폼인 ‘모델 디자인 환경(Model Design Environment)’을 자체 개발하고, 학습 단계와 운영 단계에 걸쳐 모델의 작동 메커니즘을 명확하게 설명할 수 있는 시스템을 구현했다.

특히 학습 단계에서는 신경망이 훈련 데이터를 통해 어떻게 정보를 습득하는지를 '투명하게' 파악할 수 있도록 해준다. 플랫폼은 모델 훈련 과정을 맵으로 시각화하고 병목이나 오류를 짚어내, 전반적인 모델 퍼포먼스를 끌어올리는 데 도움을 준다. 개발 완료 후엔 모델이 실제 환경에서 작동할 때 데이터 편향이나 'AI 환각(AI hallucination)' 현상을 탐지해 품질을 유지한다. 실제로 굿파이어는 최근 한 프로젝트에서 환각 발생률을 절반 수준으로 줄였다고 밝혔다.

굿파이어의 핵심 고객 중 하나는 헬스케어 AI 기업 프리마 멘테(Prima Mente)다. 이 기업은 cfDNA 조각을 분석해 알츠하이머를 조기 진단하는 모델을 개발했는데, 굿파이어의 분석을 통해 해당 모델이 DNA 조각의 길이를 주요 판단 기준으로 삼고 있다는 사실이 새롭게 드러났다. 이 내용을 통해 기존 학계에 없던 새로운 인사이트도 확보했다는 평가다.

기술적으로 가장 주목받는 도구는 'SPD'라는 방식이다. SPD는 모델 응답 생성에 기여할 수 있는 신경망 요소를 하나씩 제거해보며, 해당 요소가 실제로 작동에 기여하는지 검증하는 방식이다. 이를 통해 모델 내 어떤 요소가 불필요하거나 오작동하는지 명확하게 판별할 수 있다.

에릭 호(Eric Ho) 굿파이어 CEO는 "우리에겐 인터프리터빌리티(해석 가능성)가 새로운 과학 도구이자 탐구 방식”이라며 “직관이 아닌 검증과 실험으로 지능을 설계하는 접근으로 나아가고 있다"고 말했다. 그는 이번 투자금을 바탕으로 플랫폼 고도화와 AI 상호운용성 연구 프로젝트에도 속도를 낼 계획이라고 밝혔다.

이번 투자를 계기로 굿파이어는 AI 해석 가능성 분야에서 독보적인 입지를 굳힐 것으로 보인다. AI의 불투명성과 부작용을 줄이는 기술에 대한 시장 수요가 급증하는 상황에서, 굿파이어 같은 플랫폼 기반 스타트업의 존재감은 더욱 커질 전망이다.