엔비디아, 맞춤형 HBM 베이스 다이에 TSMC 3나노 공정 요구…삼성 공급 전략에 변수

10월 18일 서울경제는 엔비디아가 맞춤형 HBM의 베이스 다이를 TSMC 3나노 공정으로 만들도록 요구했다고 보도했습니다. 이는 삼성전자가 HBM과 관련하여 설계부터 생산, 패키징까지 한꺼번에 해결할 수 있다는 통합 공급 전략을 강조해 온 상황에서, 고객인 엔비디아가 베이스 다이 제조에 경쟁사인 TSMC를 지정하면서 삼성의 입장을 애매하게 만들었습니다.

HBM은 데이터를 저장하는 D램 층(코어 다이)과 연산 칩 사이에서 신호를 주고받는 베이스 다이로 구성됩니다. 이 두 칩은 제조 기술이 다른데, 베이스 다이 제조에는 파운드리 기술이 사용됩니다. 삼성전자는 HBM4에서 D램에는 자체 공정을, 베이스 다이에는 파운드리의 4나노 공정을 적용해왔습니다. 이번 보도는 엔비디아가 이러한 베이스 다이의 제조 공정을 구체적으로 지정한 것입니다.

엔비디아의 맞춤형 HBM인 NVHBM은 기존 GPU 등 연산 칩에 있던 메모리 컨트롤러를 베이스 다이로 옮기는 구조적 변화를 보입니다. 메모리 컨트롤러가 베이스 다이로 이동하면, GPU 내부에서는 계산 회로나 캐시 등 다른 필요한 기능에 공간을 더 활용할 수 있게 됩니다.

또한 NVHBM은 디지털 데이터를 전기 신호로 변환하는 인터페이스(PHY) 영역을 축소하여 칩 사이의 신호선 배치 부담을 낮추고 패키지 내 공간 효율을 높입니다. 이러한 구조 개선을 통해 엔비디아는 표준 HBM4e 대비 대역폭을 최대 30% 높이고 HBM 소비 전력을 15% 줄일 수 있다고 발표했습니다.

그러나 GPU에서 옮겨온 컨트롤러까지 포함되면 베이스 다이에는 더 많은 회로가 집적되어야 하며, 제한된 면적에서 빠른 동작과 전력 관리가 중요해집니다. 따라서 베이스 다이를 어떤 공정으로 만드느냐가 핵심적인 요소가 되며, 이번 TSMC 3나노 공정 요구 역시 역할이 커진 베이스 다이에 대한 것입니다.

엔비디아는 NVHBM의 맞춤형 베이스 다이 및 메모리 컨트롤러를 직접 설계하고, 이를 주요 메모리 업체들과 검증한다고 설명합니다. 이는 엔비디아가 HBM의 베이스 다이 구조를 주도하려는 방향을 보여주며, 삼성과 같이 자체 최적화된 제품을 제공하려는 공급사들에게는 엔비디아가 원하는 제어 구조 및 연결 방식이 더 깊이 개입하는 것을 의미합니다.

엔비디아는 삼성뿐만 아니라 SK하이닉스, 마이크론 등 다양한 공급사로부터 메모리를 공급받아 자사 시스템에 연결해야 합니다. 공급사마다 제품 구현 조건이 다르면 엔비디아가 관리해야 할 설계 및 검증 항목이 늘어나기 때문에, 엔비디아는 공급사 간 공통 조건을 맞춤으로써 시스템 관리를 용이하게 하려는 의도를 가지고 있습니다.

엔비디아의 주요 AI GPU는 이미 TSMC에서 생산되고 있으며, 블랙웰(Blackwell)도 TSMC의 4NP 공정으로 제조됩니다. 또한 GPU와 HBM을 하나의 패키지로 연결하는 TSMC의 CoWoS(Chip-on-Wafer-on-Substrate) 패키징 기술이 활용됩니다. CoWoS는 인터포저를 통해 칩 사이에 신호선을 연결하는 배선판 역할을 하는 첨단 패키징 기술입니다.

이러한 구조에 베이스 다이 제조까지 TSMC를 중심으로 이어지면, GPU 제조부터 연결 패키징, HBM 아래층 로직 제조까지 TSMC를 기반으로 통합된 그림이 만들어집니다. 이는 칩 사이의 연결 조건을 함께 맞추고 GPU의 송신 회로, 중간 배선, 베이스 다이의 수신 회로를 통합적으로 검증하는 데 유리합니다. 또한 전력 공급 및 발열 관리도 함께 계산하여 엔비디아, TSMC, 메모리 업체들이 공통된 기술 기반 위에서 제품을 검증하는 데 이점이 있습니다.

같은 설계 파일을 보내더라도 두 공장에서 바로 동일한 칩이 나오는 것은 아닙니다. 파운드리 공정마다 신호를 밀어주는 트랜지스터의 특성, 배선 저항, 전하가 쌓이는 성질 등이 다르기 때문입니다.

이러한 차이는 신호 전달 시간과 소비 전력을 변화시키므로, 공정을 바꾸게 되면 회로의 크기와 배치를 조정하고 신호 도착 시간, 전력 소모량 등을 다시 계산해야 합니다. 이는 마치 같은 양의 물을 보내더라도 배관의 굵기, 길이, 밸브 성능이 다르면 필요한 펌프의 힘이 달라지는 것과 유사합니다.

제조 공정을 변경하면 회로의 크기 및 배치를 조정한 후, 신호가 정해진 시간 안에 도착하는지, 전력 소모량은 얼마나 되는지 등을 모두 다시 계산해야 합니다. 또한 실제 칩을 만들어서 정상적으로 동작하는지 확인하는 검증 과정도 필수적입니다.

따라서 두 가지 이상의 제조 경로를 확보하면 공급 선택지는 넓어지지만, 이를 실제로 사용하기 위해서는 개발 시간과 비용이 추가로 발생하게 됩니다. 엔비디아가 HBM 제조에 공통 조건을 요구하는 배경에도 이러한 일정 및 검증 부담을 줄이려는 의도가 있으며, 실제로 엔비디아는 메모리를 시스템에 통합하고 검증하는 부담을 줄이는 것을 NVHBM의 장점으로 설명하고 있습니다.

UBS 전망에 따르면, 2027년 HBM 수요는 약 615억 비트, 공급은 약 546억 비트로 예상됩니다. 이는 예상 수요보다 약 11% 부족한 규모입니다. 서울경제 보도에서는 삼성의 기존 4나노 베이스 다이 생산 체계만으로는 맞춤형 물량까지 소화하는 데 제약이 있다고 설명합니다.

HBM은 D램과 베이스 다이가 모두 필요하며, 이를 쌓고 연결하고 검사하는 공정까지 함께 따라와야 합니다. 어느 한쪽만 생산량을 늘려서는 완성품의 공급을 같은 비율로 늘리기 어렵기 때문에, 베이스 다이 생산 능력은 전체 HBM 공급량에 중요한 영향을 미칩니다.

지난 8월 서울경제는 삼성이 엔비디아의 요구에 맞춰 NVHBM용 HBM4 8단 제품을 개발하고 있다고 보도했습니다. 이는 당초 준비했던 12단, 16단보다 적층 수를 낮추는 대신 더 높은 동작 속도를 요구한 것으로 파악됩니다.

HBM의 적층 수를 줄이면 용량은 감소하지만, 외부 연결 수와 신호 속도를 유지하거나 높이면 이론적인 대역폭까지 층수에 비례하여 감소하지는 않습니다. 신호 속도를 높여 대역폭을 끌어올릴 수 있으며, 엔비디아는 용량보다는 대역폭과 성능 최적화에 중점을 둔 전략을 취하고 있는 것으로 보입니다.

제조 측면에서는 적층 수가 낮아지면 칩을 얇게 가공하고 정밀하게 쌓는 부담을 줄일 수 있는 여지가 있습니다. 다만, 스택 수가 늘어나면 베이스 다이 수요가 증가하고 조립 및 검사 공정도 더 필요해집니다. 또한 용량이 줄어드는 대가로 모델이나 작업 데이터를 HBM에 모두 담지 못할 경우, 다른 메모리로 옮겨 처리하거나 동시에 처리할 작업량을 조정해야 할 수도 있습니다.

고객인 엔비디아가 베이스 다이 공정 및 제품 조건을 공통으로 맞추더라도, 완성된 HBM의 경쟁력은 여전히 여러 요인에서 갈리게 됩니다. 위에 쌓는 D램의 설계, 얇은 칩을 정밀하게 쌓는 기술, 칩 휘는 문제 관리, 발열 관리, 그리고 양품을 얼마나 많이 생산하는지(수율) 등에서 업체별 기술 차이가 존재합니다.

삼성은 D램의 저전력 설계 및 전력 분배를, SK하이닉스는 적층 과정에서의 압력 및 힘 제어 등을 자사 기술의 강점으로 설명합니다. 같은 목표 속도를 만족하더라도 한쪽이 전력을 더 적게 사용하거나 높은 수율로 더 많은 물량을 공급할 수 있습니다. 특히 현재와 같은 공급 부족 상황에서는 충분한 물량을 제때 납품할 수 있는 물량 대응력 자체가 큰 경쟁력이 됩니다.

엔비디아가 설계 및 제조 조건을 공통으로 맞춰 놓으면, 공급사를 추가할 때의 부담을 줄이고 성능, 가격, 납기를 비교하여 주문을 나누기 쉬워져 영향력을 확대할 수 있습니다. 메모리 업체들은 고객이 정한 구조와 공정에 맞춰 경쟁하면서도 자사 기술의 장점을 살려야 하는 과제를 안게 됩니다.

삼성전자는 HBM 시장 변화에 제품별로 경로를 나눠 대응하는 모습을 보입니다. 표준 HBM4 및 HBM4e에는 자체 4나노 베이스 다이를 적용해 왔으며, AMD와 같은 다른 고객의 맞춤형 HBM에서도 턴키 방식을 유지할 방침이라고 보도됐습니다. 동시에 NVHBM에서도 자체 파운드리 활용 가능성을 준비하고 있습니다.

서울경제는 삼성이 2나노 공정으로 NVHBM 베이스 다이를 생산할 수 있는지 검증하고 있다고 전했으며, 이는 TSMC의 생산 여력을 넘어설 수 있는 수요에 대비하기 위한 것입니다. 이러한 제조 경로 다변화는 고객이 물량을 더 필요로 할 때 주문을 받을 수 있게 하며, 엔비디아 입장에서도 특정 공정에만 집중될 경우 발생할 수 있는 공급망 리스크를 줄일 수 있는 필요한 선택지가 될 수 있습니다. 삼성은 자체 파운드리가 있다는 강점을 고객이 선택할 만한 성능과 생산 능력으로 연결해야 하는 과제를 안고 있습니다.