프랙타일, 2억2,000만달러 유치…AI 추론 ‘응답 지연’ 병목 해소에 베팅

영국 인공지능 반도체 스타트업 프랙타일(Fractile)이 시리즈B 투자로 2억2,000만달러를 유치했다. 원화로는 약 3,283억7,200만원 규모다. 거대 인공지능 모델의 ‘응답 지연’을 줄이는 추론용 칩 개발에 초점을 맞춘 점이 시장의 주목을 받고 있다.

프랙타일은 2022년 옥스퍼드대에서 훈련한 칩 엔지니어 월터 굿윈(Walter Goodwin)이 설립한 회사다. 굿윈은 현재 최고경영자(CEO)를 맡고 있으며, 회사의 핵심 기술인 특화형 추론 칩 설계도 직접 이끌었다. 이 칩은 학습이 끝난 AI 모델이 실제 서비스 환경에서 답변을 생성하는 ‘추론’ 작업에 최적화돼 있다.

굿윈은 현재 최첨단 AI 모델이 직면한 가장 큰 제약으로 ‘출력 생성까지 걸리는 시간’을 지목했다. 모델 규모가 커지고 작업이 복잡해지면서, 문제 해결이나 작업 수행에 수천만 개의 ‘토큰’이 필요해졌고, 이 과정에서 프로세서와 메모리 사이에 대량의 데이터를 오가야 한다. 결국 데이터 이동이 많아질수록 지연 시간이 늘고, 사용자가 체감하는 응답 속도도 느려진다는 설명이다.

프랙타일은 이를 해결하기 위해 메모리를 결합한 새로운 구조의 로직 칩을 개발했다고 밝혔다. 회사에 따르면 해당 아키텍처는 표준 서버 랙 안에 들어가도록 설계됐으며, 속도를 희생하지 않으면서 지연 시간을 낮추고 대역폭은 높이는 것이 목표다. 굿윈은 월스트리트저널과의 인터뷰에서 이 칩이 기존의 고대역폭 메모리(HBM)나 온칩 SRAM 방식에 기대지 않는다고 설명했다. 업계에서는 이를 두고 프랙타일이 상당히 이질적인 독자 설계를 택했을 가능성에 주목하고 있다.

회사는 자사 칩이 기존 그래픽처리장치(GPU)보다 AI 추론 작업을 크게 가속할 수 있다고 주장한다. 단순히 처리 속도를 높이는 데 그치지 않고, 기존 GPU 환경에서는 경제성이 떨어지거나 구현이 어려웠던 새로운 AI 활용 사례도 가능하게 할 수 있다는 입장이다.

굿윈은 투자 유치 발표 글에서 “한 달 걸릴 일을 하루로, 주말 내내 돌려야 했던 연구실 계산을 커피 한 잔 마시는 시간으로 줄일 수 있다면, AI 작업은 훨씬 빠르게 진행될 뿐 아니라 훨씬 더 야심찬 활용도 경제성을 갖게 된다”고 밝혔다. 이어 신약 개발, 소프트웨어 엔지니어링, 신소재 탐색 등 복잡한 문제 해결이 필요한 분야에서 추론 엔진의 중요성이 커질 것이라고 강조했다.

경쟁 심화와 시장 검증 과제

다만 이런 청사진이 실제 시장에서 통할지는 아직 검증이 필요하다. 추론용 반도체 시장은 최근 급격히 경쟁이 치열해지고 있다. 엔비디아($NVDA)가 여전히 AI 칩 시장의 중심에 서 있지만, 여러 전문 업체가 추론 영역에서 점유율을 노리고 있다.

대표 경쟁사로는 대형 웨이퍼 스케일 칩 ‘WSE-3’를 앞세운 세레브라스 시스템즈가 꼽힌다. 세레브라스는 현지 시간 기준 5월 15일 기업공개에 나설 예정이며, 최소 55억달러를 조달하는 대형 상장이 될 전망이다. 이 밖에 인텔($INTC)과 협력을 강화한 삼바노바 시스템즈, 언테더 AI, 그래프코어 등도 추론 반도체 시장에서 존재감을 키우고 있다.

경쟁 상대는 스타트업에만 국한되지 않는다. 엔비디아는 물론 아마존웹서비스와 구글 클라우드도 전용 추론 칩을 보유하고 있다. 여기에 오픈AI도 브로드컴($AVGO), 대만적층전로제조(TSMC)와 함께 자체 추론 칩 설계를 추진 중인 것으로 알려져 있다. AI 추론 인프라가 차세대 반도체 경쟁의 핵심 축으로 떠오르면서, 프랙타일 역시 기술력과 양산 능력을 동시에 입증해야 하는 과제를 안게 됐다.

이번 라운드는 액셀, 팩토리얼 펀즈, 파운더스펀드가 공동 주도했다. 컨빅션, 기가스케일, O1A, 펠리시스, 버클리 벤처스, 8VC와 기존 투자자들도 참여했다.

이번 투자 유치는 단순한 자금 조달 이상의 의미가 있다. AI 산업의 초점이 ‘학습’에서 ‘추론’으로 빠르게 이동하는 가운데, 프랙타일이 실제 성능과 비용 효율을 입증한다면 추론 칩 시장의 판도를 흔들 가능성도 있다. 다만 기대만으로는 부족하다. 결국 승부는 기술 시연과 고객 확보, 그리고 대규모 상용화 능력에서 갈릴 전망이다.