SK하이닉스, AI 대역폭 벽 겨냥 CPO 로드맵 공개

SK하이닉스와 버지니아대 등 연구진이 인공지능(AI) 반도체의 연결 병목을 줄이기 위한 차세대 공동패키지광학(CPO) 기술 로드맵을 공개했다.

중국 과창판일보는 연구진이 20일 학술지 네이처 일렉트로닉스(Nature Electronics)에 공동 논문을 내고 고성능 컴퓨팅과 AI 영역에서 CPO 기술의 발전 방향을 제시했다고 보도했다. SK하이닉스가 이 급의 학술지에서 AI 상호연결 아키텍처 기술 청사진을 공개한 것은 처음이라고 전했다.

CPO는 광학 부품을 연산 칩이나 스위치에 가깝게 배치해 전기 신호가 이동하는 구간을 줄이는 기술이다. 전기 신호가 긴 거리를 오갈수록 손실과 전력 소모가 커지는 만큼, 대규모 AI 데이터센터에서는 칩과 광통신 부품을 더 가까이 붙이려는 수요가 커지고 있다.

AI 서버와 데이터센터에서는 연산 성능이 커질수록 칩 사이, 서버 사이, 메모리 사이를 오가는 데이터 양도 늘어난다. 연결 대역폭과 전력 효율이 따라가지 못하면 실제 연산 장비의 활용률이 떨어질 수 있다.

논문은 AI 확장의 핵심 병목으로 ‘대역폭 벽’을 지목했다. 연산 능력은 2년마다 3배 늘어나는 반면 상호연결 대역폭은 1.4배 증가하는 데 그친다는 설명이다.

연구진은 이 격차를 줄일 기술 후보로 CPO를 제시했다. 지금까지 CPO는 주로 네트워크 스위치와 광학 부품을 가까이 배치하는 방식으로 거론돼 왔다.

이번 로드맵의 핵심은 CPO의 적용 범위를 네트워크 연결에만 두지 않는다는 점이다. 연구진은 더 먼 단계의 구상으로 CPO를 메모리 인터페이스까지 확장하는 방안을 제시했다.

메모리 인터페이스까지 광학 연결을 넓히면 여러 AI 가속기가 같은 메모리 풀을 공유하는 구조를 만들 수 있다. 연구진은 이를 통해 메모리 활용 효율을 높일 수 있다고 봤다.

이 접근은 AI 인프라 병목이 연산 칩 성능만의 문제가 아니라는 흐름과 맞닿아 있다. 본지는 앞서 AI 인프라의 메모리·스토리지 병목 해소 전략이 CXL과 확장형 메모리 구조로 넓어지고 있다고 전한 바 있다.

CPO를 둘러싼 관심은 광학 연결 부품 쪽으로도 번지고 있다. 본지는 앞서 CPO가 데이터 전송 효율과 전력 효율을 높이는 기술로 거론되며 AI 데이터센터 공급망의 검토 대상이 되고 있다고 보도했다.

SK하이닉스도 자사 뉴스룸을 통해 대규모 AI 컴퓨팅 네트워크에서 기존 전기적 상호연결이 대역폭과 에너지 효율의 구조적 한계에 직면했다고 설명한 바 있다. 이번 논문은 이 문제를 메모리 중심 아키텍처와 연결해 풀어낸 기술 로드맵 성격이 강하다.

다만 이번 공개는 제품 출시나 양산 일정 발표가 아니다. 학술 논문과 기술 로드맵을 통해 CPO의 확장 방향을 제시한 사안이다.

CPO가 실제 메모리 인터페이스 단계까지 확장될 시점과 상용 제품 적용 범위는 공개되지 않았다. 이번 발표로 확인된 내용은 SK하이닉스와 공동 연구진이 AI 상호연결 병목을 줄이기 위한 기술 방향을 논문 형태로 제시했다는 점이다.

사용 출처: PANews, SK hynix Newsroom