“HBM만으론 부족”…SK하이닉스, HBF·CXL 잇는 ‘계층형 메모리’ 제시

[이데일리 송재민 기자] SK하이닉스가 고대역폭메모리(HBM)뿐 아니라 D램과 차세대 낸드인 고대역폭플래시(HBF), 기업용 솔리드스테이트드라이브(eSSD)를 함께 활용하는 ‘계층형 메모리’를 제시했다. 인공지능(AI)이 처리해야 할 데이터가 급증하면서 여러 종류의 메모리를 용도에 맞게 연결해 성능과 비용 효율을 높이겠다는 전략이다.

SK하이닉스 전시 부스를 살펴보고 있는 관람객들. (사진=SK하이닉스)

SK하이닉스는 지난 4~6일(현지시간) 미국 캘리포니아 산타클라라에서 열린 메모리·스토리지 전시회 ‘FMS 2026’에 참가해 차세대 AI 메모리 기술과 제품을 선보였다고 7일 밝혔다.

행사 첫날 기조연설에는 김천성 SK하이닉스 솔루션개발 부문장과 강욱성 차세대상품기획 담당이 공동 연사로 나섰다. 이들은 ‘AI 에이전트 시대, 계층형 메모리에 기반한 AI 인프라의 효율적 구현 방안’을 주제로 미래 메모리 아키텍처의 진화 방향을 설명했다.

계층형 메모리는 속도와 용량, 비용이 서로 다른 메모리를 용도에 따라 배치하고 유기적으로 연결하는 구조다. AI 연산에 필요한 모든 데이터를 상대적으로 가격이 높은 HBM에 담는 대신 HBM과 D램, HBF, SSD에 데이터를 적절히 나눠 저장하고 필요한 시점에 빠르게 이동시키는 방식이다. 데이터 이동을 줄이면서 AI 인프라의 성능과 비용, 전력 효율을 함께 높일 수 있다.

SK하이닉스의 ‘375단 NAND Wafer’와 ‘375단 1Tb TLC 154B 32DP’와 ‘375단 1Tb TLC 334B QDP’. (사진=SK하이닉스)

김 부문장은 “AI가 학습 중심에서 대규모 추론, 나아가 에이전틱 AI로 확장되면서 인프라 경쟁력은 개별 메모리 제품의 성능만으로 결정되지 않는다”며 “HBM과 D램, 낸드 기반 HBF, SSD 등 각 메모리 계층을 어떤 위치에 배치하고 어떻게 연결해 데이터 이동을 최소화하느냐가 전체 효율을 좌우할 것”이라고 말했다.

이어 “앞으로는 모든 메모리 계층을 아우르는 최적화된 아키텍처를 구현하는 역량이 AI 인프라 경쟁력의 핵심이 될 것”이라고 강조했다.

SK하이닉스가 HBM과 SSD 사이의 새로운 메모리 계층으로 주목한 제품은 HBF다. HBF는 HBM처럼 실리콘관통전극(TSV) 기술과 로직 공정을 활용해 기존 낸드 기반 저장장치의 대용량과 D램에 가까운 데이터 전송 성능을 동시에 구현하는 차세대 낸드 솔루션이다.

파트너십존에서 HBM4 모형과 베라루빈 모형을 살펴보고 있는 관람객들. (사진=SK하이닉스)

임의철 SK하이닉스 솔루션AT 담당은 행사 마지막 날 구글·샌디스크 등과 함께 진행한 패널 토론에서 HBF의 개발 방향과 기술적 가능성을 논의했다. 임 담당은 “HBF는 초고속 메모리인 HBM과 대용량 저장장치인 SSD 사이에서 새로운 메모리 계층으로 자리 잡을 잠재력이 있다”고 말했다. SK하이닉스는 주요 파트너사와 하드웨어·소프트웨어 공동 설계와 기술 표준화를 추진하고 있다.

전시 부스에서는 계층형 메모리를 구성할 제품군을 한자리에 선보였다. 엔비디아의 차세대 AI 가속기 ‘베라 루빈’ 모형과 HBM4 모형을 나란히 배치했으며 HBM4E 48기가바이트(GB) 12단, HBM4 48GB 16단, HBM3E 36GB 12단, AI 서버용 메모리 모듈 SOCAMM2 등을 전시했다.

낸드 분야에서는 웨이퍼 본딩 기술을 적용한 375단 4D 낸드를 공개했다. 이 제품은 이전 세대보다 전력 대비 성능을 2.5배 높인 것이 특징이다. SK하이닉스는 375단 낸드를 기반으로 한 고성능 eSSD의 양산을 내년 상반기 시작할 계획이다.

기존 176단 제품보다 성능을 약 55% 개선한 쿼드레벨셀(QLC) 기반 고용량 eSSD도 이달부터 주요 클라우드서비스사업자(CSP)에 샘플로 공급한다. AI 데이터센터에서 요구하는 입출력 성능과 고대역폭, 대용량 저장 수요를 공략하기 위해서다.

SK하이닉스의 CMM-Hybrid를 활용한 ReAct AI Agent Serving 기술 시연 모습. (사진=SK하이닉스)

컴퓨트익스프레스링크(CXL) 기반 차세대 메모리 기술도 시연했다. 여러 서버와 그래픽처리장치(GPU)가 하나의 메모리 풀을 나눠 사용하는 ‘풀드 메모리’와 D램·SSD를 결합한 ‘CMM-하이브리드’를 활용해 AI 에이전트의 KV 캐시를 효율적으로 저장하고 재사용하는 기술을 공개했다. 대화와 작업 이력이 늘어날수록 커지는 KV 캐시를 CXL 기반 메모리에 분산 저장해 AI 추론 속도와 메모리 활용률을 높이는 방식이다.

강 담당은 “SK하이닉스는 HBM부터 CXL 기반 메모리, eSSD에 이르기까지 AI 인프라의 전 계층을 아우르는 포트폴리오를 보유하고 있다”며 “제품 설계 단계부터 고객이 필요로 하는 최적의 솔루션을 함께 고민하고 제공하는 것이 SK하이닉스의 역할이 될 것”이라고 말했다.