‘메모리 빅3’ 영향력 줄이기 혹은 HBM 생태계 최적화…엔비디아 ‘NVHBM’ 발표 [고든 정의 TECH+]

최근 개최된 ‘핫 칩스(Hot Chips) 2026’에서 삼성전자는 다양한 고객사에 맞춤형 고대역폭메모리(HBM)를 제공할 수 있다고 강조했습니다. 그 직후 엔비디아는 자체 커스텀 HBM 메모리 규격인 ‘NVHBM’을 공개했습니다. 타이밍이 맞물려 있어 업계에서는 삼성전자의 NVHBM 참여 가능성에 주목하고 있습니다.

이미 JEDEC의 HBM 표준이 존재하고 현재 HBM4E 샘플이 공급되는 상황에서 엔비디아가 굳이 자체 설계인 NVHBM을 공개한 것은 그래픽처리장치(GPU)를 위한 연산 공간을 확보하고 메모리 대역폭을 늘리기 위한 맞춤형 메모리가 필요했기 때문으로 풀이됩니다.

현재 인공지능(AI) 데이터 센터들은 막대한 전력을 소모하는 중앙처리장치(CPU)와 GPU를 수만 개에서 수십만 개 돌리고 있습니다. 치솟는 전력 소모와 냉각을 위한 물 공급 부족은 지역 사회의 강력한 반발을 불러일으키고 있습니다. AI 데이터 센터를 운영하는 하이퍼스케일러들은 막대한 운영 비용을 절감하고 주민 반발을 줄이기 위해서라도 더 효율적인 시스템을 필요로 하고 있습니다.

NVHBM의 핵심은 현재 공간에 여유가 있는 HBM의 베이스 다이에 본래 GPU가 갖고 있던 메모리 컨트롤러를 옮기는 것입니다. HBM은 D램 다이를 쌓아서 베이스 다이 위에 올리는 구조이기 때문에, 이렇게 만들면 메모리 컨트롤러와 D램의 간격이 줄어들어 전력 소모량은 줄이고 효율은 높일 수 있습니다. 엔비디아에 따르면 HBM4E와 비교해 대역폭은 30% 증가하고 전력 소모는 15% 줄어 GPU의 메모리 병목을 완화하고 효율을 크게 높일 수 있다고 합니다.

엔비디아는 이미 로드맵에서 ‘파인만(Feynman) GPU’에 맞춤형 HBM을 사용할 것이라고 언급했습니다. 따라서 2028년 출시될 파인만 GPU가 NVHBM을 채택한 최초의 GPU가 될 가능성이 높습니다. 여기서 짚어볼 점은 HBM 베이스 다이를 엔비디아가 설계하면서 얻는 이점입니다.

우선 베이스 다이를 하나로 통일하면 각 회사별로 HBM 메모리를 따로 검증하는 대신 표준 규격이 되면서 호환이 쉬워지고 안정성도 높아집니다. 또 메모리 컨트롤러를 메모리 쪽으로 넘기면서 남는 공간에 연산 회로를 추가로 탑재할 수 있게 되어 GPU 성능을 더 높일 수 있습니다. NVHBM은 엔비디아의 NVLink Fusion 파트너들에게도 제공될 예정이어서, 엔비디아 생태계 전체로 영향력이 확대될 수 있습니다.



하지만 동시에 현재는 각 회사가 제조하던 베이스 다이 설계를 엔비디아가 맡게 되어 엔비디아의 영향력이 커질 것이라는 이야기도 나옵니다. 예를 들어 삼성전자는 HBM4에서 자체 설계한 베이스 다이를 삼성 파운드리의 4㎚ 첨단 공정으로 제조해 성능 경쟁에서 우위를 점할 수 있었지만, 앞으로는 그런 차이가 줄어들고 엔비디아의 표준 설계에 따라야 합니다.

더 중요한 것은 만약 HBM 메모리가 급격히 NVHBM 중심으로 재편될 경우 AMD 같은 경쟁자나 맞춤형 AI 가속기를 만드는 업체들을 약화시킬 수 있다는 점입니다. NVHBM을 기술 표준으로 공개해도 엔비디아 GPU와 생태계에 최적화되어 있어 그만큼 엔비디아에 이득입니다.

여기에 엔비디아가 설계를 주도하고 만약 생산까지 담당하면 메모리 제조사들은 D램 다이만 공급하는 형태가 될 가능성도 있습니다. 다만 이런 변화는 현재 강한 협상력을 가진 메모리 제조사들이 쉽게 받아들이기 어려울 수 있습니다. 특히 자체 파운드리를 지닌 삼성 쪽에서 받아들이기 어려운 조건으로 보입니다.

그런 상황까지 가지 않더라도 NVHBM은 GPU의 성능을 높일 수 있는 새로운 기술 표준이면서 동시에 엔비디아의 시장 지배력을 더 강화시키는 도구가 될 가능성이 있어 보입니다. 메모리 빅3와 다른 AI 경쟁사들이 어떻게 대응할지 주목됩니다.

고든 정 과학 칼럼니스트 jjy0501@naver.com