HBM4가 뭐길래, 삼성·SK가 엔비디아에 목매나

안녕하세요, 깅글렛이에요.

요즘 경제 뉴스만 켜면 HBM, 엔비디아, 삼성·SK 이런 단어가 도배가 돼 있죠. 저도 솔직히 처음엔 “이게 내가 점심에 ChatGPT한테 보고서 요약 시키는 거랑 무슨 상관이야” 싶었거든요.

근데 좀 파보니까 상관이 엄청 많더라고요. 한마디로 HBM은 우리가 매일 쓰는 AI를 굴리는 부품이에요.

오늘은 비개발자인 제가 뉴스 보고 찾아본 걸, 똑같이 어렵게 느끼실 분들 눈높이로 풀어볼게요.

HBM은 “메모리를 빌딩처럼 쌓아 GPU 옆에 붙인 것”

먼저 HBM부터 보죠. HBM(High Bandwidth Memory, 고대역폭메모리)은 쉽게 말하면 데이터를 엄청 빠르게 실어 나르는 특수 메모리예요.

우리 노트북이나 폰에 들어가는 일반 메모리는 보통 평면으로 옆에 쭉 깔려 있어요. 근데 HBM은 좀 달라요. D램 칩을 12~16층으로 수직으로 쌓고, 그걸 통째로 GPU(그래픽 처리 장치) 바로 옆에 붙이거든요.

📖 D램이란? 컴퓨터가 작업할 때 데이터를 잠깐 올려두는 메모리 반도체예요. 책상 위 작업 공간 같은 거라고 보면 돼요.

층층이 쌓기만 하면 끝이 아니에요. 층과 층 사이를 **TSV(실리콘관통전극)**라는 미세한 수직 통로로 뚫어서 연결해요. 그래야 위아래 층이 직통으로 데이터를 주고받거든요.

저는 이걸 빌딩으로 이해했어요. 단층 창고를 옆으로 길게 늘어놓는 대신, 고층 빌딩으로 쌓고 층마다 직통 엘리베이터(TSV)를 뚫은 느낌이에요. 자리는 적게 쓰면서 데이터는 훨씬 빨리 실어 나르는 구조죠. 과학지에 인용된 콜럼비아대 전기공학 교수도 “HBM 수요가 폭발하는 건 저장 용량도 꽤 좋은 데다 굉장히 빠르기 때문”이라고 했더라고요.

인포그래픽 - ‘HBM은 왜 빠른가’ 적층 구조 도식. 왼쪽은 일반 메모리(평면, 옆으로 길게 깔림), 오른쪽은 HBM(D램 1216층 수직 적층 + 층 사이 TSV 통로 + GPU 바로 옆에 붙은 구조). 라벨: “1216층 적층“, “TSV 직통 통로”

머릿속에 잘 안 그려지면, 진짜 물건을 보면 한 방에 이해돼요.

실제 GPU 패키지 사진 — 가운데 큰 칩(GPU) 옆에 HBM 메모리 스택 4개가 나란히 붙어 있는 모습

▲ 실제 GPU 패키지예요. 가운데 큰 칩이 GPU, 그 옆에 붙은 네모 4개가 HBM 메모리 스택이에요. 말 그대로 ‘GPU 옆에 메모리를 딱 붙인’ 거죠.

※ 사진: Kapitaenk, Wikimedia Commons, CC BY-SA 4.0 (commons.wikimedia.org/wiki/File:AMD_Fiji_GPU_package_with_GPU,_HBM_memory_and_interposer.jpg)

AI의 진짜 병목은 ’계산’이 아니라 ’데이터 운반’이에요

여기가 이 글에서 제일 중요한 부분이에요. 한 번만 천천히 읽어주세요.

흔히 AI가 느리면 “계산이 느린가 보다” 생각하잖아요. 근데 거대 언어모델 같은 AI에서 진짜 병목은 계산이 아니라 데이터를 옮기는 속도예요. GPU가 메모리에서 데이터를 끌어오는 시간이, 실제 수학 연산보다 더 오래 걸리거든요.

쉽게 비유하면 이래요. 아무리 빠른 요리사(GPU)가 있어도, 재료(데이터)가 주방까지 안 오면 칼만 들고 멍하니 서 있게 되잖아요. 데이터를 기다리며 노는 GPU는 그냥 낭비된 하드웨어라는 거죠. 이게 과학지가 짚은 핵심이에요.

특히 AI를 학습시킬 땐 어마어마한 데이터를 반복해서 처리해요. 이때 데이터 통로가 좁으면 비싼 연산 유닛이 그냥 대기만 하게 돼요. 그래서 **메모리 대역폭(데이터가 한 번에 지나가는 통로의 넓이)**이 AI 성능을 좌우하는 거예요. HBM은 바로 이 통로를 확 넓혀주는 부품이고요.

그럼 얼마나 빠른 걸까요? 숫자 하나만 볼게요. PC용 DDR5 메모리 한 모듈이 초당 약 38GB를 옮긴다면, HBM3E 스택 하나는 초당 약 1.2TB를 옮겨요. 패키지 기준으로 따지면 약 30배 차이예요. 통로 넓이 자체가 차원이 다른 거죠.

인포그래픽 - 메모리 속도 비교 막대그래프. PC용 DDR5 약 38GB/s(가장 짧은 막대) vs HBM3E 스택 약 1.2TB/s(약 30배) vs HBM4 스택 2.0~3.3TB/s(가장 긴 막대). 단위 통일 주의 표기, “패키지 기준 약 30배 차이” 캡션

HBM4는 통로를 2배로 넓힌 6세대예요

자, 그럼 요즘 뉴스에 나오는 HBM4는 뭐가 다를까요. HBM4는 6세대 HBM이에요. 핵심은 딱 하나만 기억하면 돼요. 데이터가 지나가는 통로를 2배로 넓혔다는 거예요.

기술적으로는 인터페이스를 1024비트에서 2048비트로 2배 확장했어요. 그 덕에 대역폭이 스택당 2.0TB/s 이상, 고급 구성에선 최대 3.3TB/s까지 나와요. 바로 앞 세대인 HBM3E(스택당 약 1.2~1.33TB/s)의 거의 2배죠. 국제 표준화 단체인 JEDEC이 2025년 4월에 HBM4 공식 표준을 발표하면서 이 규격이 확정됐고요.

이 HBM4가 어디 들어가느냐가 또 핵심이에요. 최대 수요처가 **엔비디아의 차세대 AI 가속기 ‘베라 루빈(Vera Rubin)’**이거든요. 2026년 6월 1일 대만에서 열린 GTC 타이베이에서 루빈이 본격 양산에 들어갔다고 발표했고, 주요 클라우드 회사들(AWS·구글·MS 애저·오라클 등)에는 2026년 3분기, 그러니까 올여름부터 출하될 예정이에요.

만드는 곳은 사실상 세 회사예요. SK하이닉스, 삼성전자, 마이크론 3사 과점이죠. 앞의 두 곳이 한국 기업이라 우리 뉴스에 그렇게 자주 나오는 거고요.

인포그래픽 - HBM4 한눈에 보기. “6세대 HBM” / “통로 1024→2048비트, 2배” / “스택당 2.0~3.3TB/s” / “JEDEC 표준 2025.04 확정” / “엔비디아 베라 루빈에 탑재” 5개 항목을 카드형으로 정리, 하단에 “제조 3사: SK하이닉스·삼성전자·마이크론”

그래서 삼성·SK가 엔비디아에 목매는 거예요

이제 뉴스 제목이 이해되기 시작하실 거예요. AI 붐의 돈이 어디로 흐르냐면, 엔비디아 GPU → 그 GPU에 꽂히는 HBM 순서로 흘러요. 그러니까 엔비디아가 어떤 회사 HBM을 골라 쓰느냐가, 메모리 회사들 매출이랑 순위를 좌우하는 거죠.

지금 HBM 시장 1위는 SK하이닉스예요. 앞 세대인 HBM3E 12단을 엔비디아 블랙웰에 사실상 단독으로 공급하면서 격차를 벌렸거든요. 점유율로 보면 2024년 실적 기준 SK 52%, 삼성 41%, 마이크론 7%였어요. (2024년 실적, 단위 %)

📖 단수는 D램 칩을 몇 층 쌓았는지를 말해요. 12단이면 12층으로 쌓았다는 뜻이에요. 많이 쌓을수록 용량이 커져요.

그럼 삼성은 어떻게 반격하고 있을까요. 삼성전자는 2026년 2월에 세계 최초로 HBM4 양산 출하를 시작했다고 발표했어요. 엔비디아가 요구한 프리미엄 속도 규격(11.7Gbps)도 충족했다고 하고요. SK가 앞 세대에서 앞서갔으니, 삼성은 새 세대인 HBM4로 승부를 보려는 그림이에요.

여기에 결정적인 뉴스가 하나 더 터졌어요. 2026년 6월 5일, 엔비디아 CEO 젠슨 황이 삼성·SK·마이크론 3사 모두 루빈용 HBM4 인증을 통과했다고 공식 확인한 거예요. “세 곳 모두 루빈을 지원하려고 경쟁 중”이라는 표현까지 썼고요. 인증을 통과해야 엔비디아에 납품할 자격이 생기니까, 이게 큰 뉴스가 된 거죠.

그러다 보니 삼성·SK 입장에선 “엔비디아 인증 통과”, “엔비디아 단독 공급” 같은 한 줄에 사활을 걸 수밖에 없어요. 뉴스에 HBM이랑 엔비디아가 도배되는 이유가 바로 이거예요.

인포그래픽 - ‘AI 돈의 흐름’ 도식. 화살표로 “AI 붐 → 엔비디아 GPU → HBM(SK·삼성·마이크론)” 연결, 하단에 “2024년 실적 점유율: SK 52% / 삼성 41% / 마이크론 7% (단위 %)” 작게 표기

결국 내가 쓰는 ChatGPT도 이 칩들 위에서 돌아가요

여기까지 오면 한 가지 의문이 남아요. “그래서 이게 나랑 무슨 상관인데?”

상관, 아주 많아요. 우리가 매일 쓰는 AI가 전부 엔비디아 GPU 위에서 돌아가거든요.

GPU는 동시에 수많은 계산을 한꺼번에 처리해요. 그래서 AI 모델을 학습시키거나 답을 만들어낼 때 꼭 필요하죠. 그리고 이 AI 학습용 GPU 시장에서 엔비디아가 절대다수를 공급하는 강자예요. 사실상 엔비디아 없이는 지금의 AI 붐이 안 굴러가는 셈이죠.

체감되는 예를 하나 들어볼게요. ChatGPT는 초기 학습에 엔비디아 A100 GPU를 1만 개 이상 썼다고 해요(국민일보 보도). 그러니까 제가 점심시간에 ChatGPT한테 회의록 요약을 시키는 그 순간, 어딘가 데이터센터에서 엔비디아 GPU가 돌아가고 있는 거예요. 그 GPU 옆에 꽂혀서 데이터를 실어 나르는 게 바로 HBM이고요.

물론 엔비디아만 쓰는 건 아니에요. 구글은 제미나이를 상당 부분 자체 칩으로 돌리기도 하거든요. 그래도 큰 그림은 비슷해요.

정리하면 이래요. HBM·엔비디아 뉴스는 남 얘기가 아니라, 내가 매일 쓰는 ChatGPT·제미나이를 굴리는 엔진(GPU)과 그 엔진의 연료 탱크(HBM) 얘기예요. 그래서 HBM 경쟁이 곧 ‘AI 속도’ 경쟁인 거고요.

인포그래픽 - ‘내가 쓰는 AI의 뒷단’ 개념도. 위쪽에 스마트폰/노트북으로 ChatGPT·제미나이 쓰는 사람 → 가운데 데이터센터 → 아래쪽에 GPU 코어 중앙 + 양옆에 HBM 스택이 붙은 패키지 구조. “엔진=GPU, 연료탱크=HBM” 라벨

깅글렛 한줄평

💬 HBM·엔비디아 뉴스가 어렵게 느껴졌다면, 딱 한 줄만 기억하세요. 내가 쓰는 AI를 굴리는 엔진과 연료 탱크 얘기라는 것. 다음에 관련 뉴스가 뜨면 “아, 내 ChatGPT 더 빨라지겠네” 정도로 가볍게 읽으면 돼요.

마무리

오늘은 뉴스에 맨날 나오는 HBM·엔비디아를, 비개발자인 제 눈높이로 풀어봤어요.

저도 처음엔 “메모리가 다 똑같은 메모리 아냐?” 싶었는데, 빌딩처럼 쌓는다는 것 하나만 알아도 뉴스가 한결 잘 읽히더라고요. 다음엔 또 다른 AI·테크 이슈를 쉽게 풀어서 찾아올게요.

※ 본 글은 2026년 6월 6일 기준 공개된 정보를 바탕으로 작성됐어요. 반도체 점유율·일정 같은 수치는 1~2주 단위로 바뀔 수 있으니, 최신 내용은 각 기업 공식 발표에서 확인하세요. ※ 본 글은 투자 권유나 시황 전망이 아니라, ’HBM이 뭔지·왜 중요한지’를 설명하는 정보성 글이에요.