"젠슨 황, 메모리 병목 언급…HBM·D램·낸드 동반 수요 확대"

삼성증권 "AI 서버당 메모리 콘텐츠 증가 속도, GPU 컴퓨팅 상회"

(서울=연합뉴스) 황철환 기자 = 삼성증권은 엔비디아의 젠슨 황 최고경영자(CEO)가 '메모리 병목 현상'을 언급한 것에 대해 일반 D램과 낸드 메모리 수요 동반 확대를 시사했다고 평가했다.

이종욱 연구원은 6일 발간한 보고서에서 "황 CEO가 이날 CES 2026 기조연설에서 인공지능(AI) 인프라 사이클이 2026년에도 강하게 진행될 것이라고 전망했다"며 이같이 말했다.

그는 "이번 기조연설이 메모리에 주는 가장 중요한 함의는 엔비디아의 AI 서버에서 GPU 중심의 트렌치 구조가 공식화되었다는 점"이라고 강조했다.

베라루빈과 함께 블루필드-4 데이터처리장치(DPU)를 통한 AI 메모리 스토리지 시스템이 제시됐는데 "이는 HBM 중심 구조에서 벗어나 D램과 낸드가 캐시 계층으로 본격 편입되는 전환점"이라고 이 연구원은 말했다.

이 연구원은 "에이전트 AI가 확산하면서 추론 단계에서 연산 호출 횟수와 시퀀스의 길이가 급격하게 증가했다"면서 "황 CEO는 키-값 캐시(KV Cache) 처리를 위한 메모리 대역폭과 용량이 기술적 병목현상이라고 언급했다"고 소개했다.

특히 "엔비디아는 고대역폭메모리(HBM), 저전력 D램(LPDDR), NVMe 낸드의 연속된 메모리 계층을 통합하고 블루필드 반도체가 그래픽처리장치(GPU)에 직접 연결·컨트롤하는 방식으로 대용량의 KV캐시를 처리할 것"이라고 전했다.

그런 만큼 대형 기술기업들이 경쟁적으로 건립 중인 데이터센터의 중심은 메모리가 될 수밖에 없고 "당분간 AI 서버당 메모리 콘텐츠 증가 속도가 GPU 컴퓨팅 증가 속도를 상회할 가능성이 높다"고 이 연구원은 설명했다.

이 연구원은 "엔비디아가 전한 메시지는 베라루빈 시스템을 도입할 때 KV 캐시 수용 능력을 최대한 확장하는 것이 우선 과제임을 시사한다"고 말했다.

이어 "에이전트 AI와 피지컬 AI 워크로드는 추론 중심이 될 것이고 학습 과정 대비 메모리 상주 데이터 비중이 높아서 GPU 1대당 연결되는 메모리와 스토리지의 탑재량 증가가 예상된다"며 "이는 HBM의 증가뿐 아니라 일반 D램과 고용량 NVMe 낸드의 동반 수요 확대로 이어질 것"이라고 내다봤다.

hwangch@yna.co.kr