반도체 업계에서 요즘 가장 뜨거운 키워드를 꼽으라면 단연 ‘HBM(고대역폭 메모리)’인데요. 그 중에서도 삼성전자가 차세대 HBM5로 엔비디아 공급망 재진입을 노리고 있다는 소식이 업계를 술렁이게 하고 있습니다. 그런데 조금만 들여다보면 의문이 생기죠. 세계 최대 메모리 반도체 기업인 삼성전자가 왜 엔비디아라는 단 하나의 고객사에게 이렇게 애를 태워야 하는 걸까요? 그리고 왜 오랜 기간 외면을 받았던 걸까요? 이 이야기는 단순한 납품 계약의 문제가 아니라, AI 시대 반도체 패권을 둘러싼 치열한 생존 경쟁의 한 단면입니다.
엔비디아와 삼성의 불편한 관계 — 도대체 무슨 일이 있었나?
AI 붐이 본격화되기 시작한 2022~2023년, 엔비디아는 데이터센터용 GPU H100을 출시하며 폭발적인 수요를 맞이했습니다. 이 GPU의 핵심 부품 중 하나가 바로 HBM3 메모리였는데요. 당시 엔비디아의 주요 HBM 공급사 명단에 삼성전자의 이름은 사실상 없었습니다. 그 자리를 채운 건 SK하이닉스와 마이크론이었죠. 세계 메모리 반도체 점유율 1위 기업이 정작 AI 반도체의 핵심 부품 시장에서 밀려난 상황이었습니다.
이 사태가 더욱 충격적으로 느껴지는 이유는 HBM 기술 자체가 삼성과 SK하이닉스가 공동으로 표준을 만들어온 분야이기 때문입니다. 특히 HBM의 초기 개발을 주도한 것은 AMD와 SK하이닉스의 협력이었지만, 삼성도 초기부터 기술 개발에 참여해 왔습니다. 말하자면, 자신이 함께 만든 경기장에서 실격 판정을 받은 것과 비슷한 상황인 셈이죠. 이 굴욕적인 상황의 배경을 이해하려면, HBM이라는 제품이 얼마나 까다로운 물건인지부터 살펴봐야 합니다.
HBM은 일반 DRAM과 구조 자체가 다릅니다. 얇게 깎아낸 DRAM 칩을 여러 층으로 수직 적층한 뒤, 수천 개의 미세한 구멍(TSV, Through Silicon Via)을 뚫어 연결하는 방식으로 만들어지는데요. 이 구조 덕분에 일반 GDDR 메모리 대비 수배에서 수십 배에 달하는 데이터 전송 대역폭을 얻을 수 있습니다. 하지만 그만큼 제조 공정은 극도로 정밀해야 하고, 품질 관리의 난이도도 비교할 수 없이 높습니다.
HBM 전쟁의 핵심은 ‘수율’이었다
반도체 공장에서 ‘수율(Yield)’이란 생산된 전체 칩 중 불량 없이 사용 가능한 제품의 비율을 의미합니다. 일반 반도체도 수율 관리가 중요하지만, HBM의 경우는 차원이 다릅니다. 여러 장의 DRAM 다이를 쌓아 올리는 구조이기 때문에, 각 층의 불량이 전체 스택의 불량으로 이어집니다. 쉽게 말해, 10층짜리 건물을 지을 때 각 층의 시공 성공률이 99%라도, 10층 모두가 완벽할 확률은 약 90%로 뚝 떨어지는 이치입니다.
삼성전자의 HBM3가 엔비디아 검증에서 고전했던 가장 큰 이유로 업계에서 지목된 것이 바로 이 수율 문제였습니다. 여기에 더해 발열 문제도 거론됐는데요. HBM은 GPU 다이 바로 옆에 물리적으로 밀착 배치되는 구조여서, 발열 관리가 미흡하면 시스템 전체의 안정성에 직결됩니다. 엔비디아 입장에서는 H100 한 장의 가격이 수천만 원에 달하는 상황에서, 메모리 하나 때문에 전체 시스템의 신뢰성이 흔들리는 리스크를 감수할 이유가 없었던 것입니다.
이는 단순히 삼성의 기술력 부족 문제로 보기 어렵습니다. HBM3와 같이 새로운 세대의 메모리가 등장할 때마다 초기 수율은 모든 제조사에게 공통된 도전 과제입니다. 그런데 SK하이닉스가 먼저 안정적인 수율을 확보하면서 엔비디아와의 신뢰 관계를 선점한 반면, 삼성은 그 타이밍을 놓쳐버린 셈이 됐죠. 타이밍의 차이가 수조 원대 시장 점유율의 차이로 이어진 것입니다.
SK하이닉스가 독주할 수 있었던 진짜 이유
SK하이닉스가 HBM 시장에서 우위를 점할 수 있었던 데는 몇 가지 구조적 이유가 있습니다. 우선 SK하이닉스는 엔비디아와 HBM2E 세대부터 긴밀한 협력 관계를 구축해 왔습니다. 단순히 물건을 납품하는 관계가 아니라, 공동 개발에 가까운 파트너십이었죠. 마치 특정 레스토랑의 메뉴에 맞춰 식재료 재배법을 함께 개발하는 농가처럼, 엔비디아 GPU 아키텍처에 최적화된 HBM 설계를 사전에 맞춰나간 겁니다.
여기에 SK하이닉스의 과감한 선행 투자도 한몫했습니다. AI 수요가 폭발하기 전인 2020~2021년부터 HBM 전용 생산 라인을 대규모로 확충했는데요. 당시만 해도 업계에서는 이 투자가 과감하다는 평가도 있었습니다. 하지만 ChatGPT 이후 AI 수요가 수직 상승하면서, 이 선제적 투자가 그대로 시장 지배력으로 환산됐습니다. 공급이 극도로 부족한 시장에서 먼저 생산 능력을 갖춘 기업이 ‘가격 결정권’까지 쥐게 되는 구조였죠.
반면 삼성전자는 당시 파운드리(반도체 위탁 생산) 사업 강화와 다양한 메모리 제품군 확대에 경영 자원을 분산하고 있었습니다. HBM이라는 한 분야에 SK하이닉스만큼 집중하지 못했고, 그 결과 결정적인 순간에 ‘준비된 파트너’가 될 기회를 놓쳐버렸습니다. 반도체 업계의 승패가 기술력뿐 아니라 전략적 집중력에 의해서도 갈린다는 사실을 보여주는 대목입니다.
HBM5, 삼성의 반격 시나리오
HBM5는 현재 표준 로드맵상 HBM4의 다음 세대로, 대역폭과 용량 모두에서 한 차원 높은 성능을 목표로 합니다. 삼성전자는 HBM4 세대에서의 뼈아픈 교훈을 바탕으로, HBM5 개발에서는 전략 자체를 다르게 가져가고 있는데요. 가장 주목할 변화는 ‘선 검증, 후 양산’ 방식으로의 전환입니다. 과거에는 양산 체계를 갖춰놓고 검증을 받으러 갔다면, 이제는 개발 단계부터 고객사인 엔비디아의 요구 사항을 최우선으로 반영하는 방식입니다.
기술적으로 HBM5는 적층 단수 증가와 TSV 밀도 향상을 통해 단일 패키지에서 더 높은 대역폭을 구현하는 방향으로 발전하고 있습니다. 또한 발열 문제를 해결하기 위한 새로운 열 관리 소재 및 패키징 기술도 핵심 과제입니다. HBM이 GPU에 밀착 배치되는 구조상, 냉각 효율은 곧 시스템의 지속 성능(Sustained Performance)과 직결되기 때문입니다. 마치 고성능 스포츠카 엔진이 제 성능을 내려면 냉각 시스템이 받쳐줘야 하는 것과 같은 이치죠.
삼성이 HBM5에서 진정한 반격에 성공하려면 수율 안정화와 함께 공급 타이밍을 반드시 맞춰야 합니다. 엔비디아의 차세대 GPU 아키텍처 출시 일정에 맞춰 HBM5를 안정적으로 공급하는 것이 핵심인데요. 이번만큼은 삼성전자가 HBM 조직에 역량을 집중적으로 투입하고 있다는 점에서, 과거와는 다른 결과가 나올 수 있다는 기대감이 업계에 형성되고 있습니다.
앞으로의 전망 — 복수냐 공존이냐?
반도체 업계에서 ‘복수’라는 표현은 다소 극적으로 들릴 수 있지만, 실제로 이 상황은 단순한 감정의 문제가 아닙니다. 삼성전자 입장에서 HBM 시장에서의 재기는 회사의 미래 수익 구조와 직결된 사안입니다. AI 시대에 HBM은 단순한 메모리 제품이 아니라, 데이터센터 인프라의 핵심 부품으로 자리매김하고 있기 때문입니다. GPU 한 장에 들어가는 HBM의 가치는 종종 GPU 전체 원가의 상당 부분을 차지할 정도로 높습니다.
더 넓은 시각에서 보면, 이 경쟁은 한 기업의 이야기를 넘어 한국 반도체 산업 전체의 과제이기도 합니다. SK하이닉스의 HBM 독주가 계속된다면 한국 반도체 산업의 다양성이 오히려 약해질 수 있고, 삼성이 경쟁력을 회복해야 글로벌 공급망 차원에서도 건전한 경쟁 구도가 유지됩니다. 엔비디아와 같은 수요 기업 역시 단일 공급사 의존도가 높아지면 협상력이 약해지기 때문에, 복수의 공급사가 경쟁하는 구도를 내심 원하고 있습니다.
결국 HBM5를 둘러싼 경쟁은 단순히 한 제품 세대의 납품 계약 문제가 아니라, AI 인프라를 둘러싼 글로벌 기술 패권 경쟁의 축소판이라 할 수 있습니다. 삼성전자가 이번에 엔비디아의 신뢰를 회복한다면, 그것은 단지 ‘빼앗긴 시장을 되찾는 것’이 아니라 AI 시대의 새로운 반도체 질서 속에서 자신의 위치를 재정립하는 것이 됩니다. 이 긴 여정의 다음 챕터가 어떻게 써질지, 반도체 업계뿐 아니라 AI 산업 전체가 예의주시하고 있는 이유가 바로 거기에 있습니다.
