HBF, HBM 보완재에 그칠 가능성…엔비디아도 미온적

HBF(Hybrid Bonding Fabric)는 SSD(Solid State Drive) 공법을 활용하여 코어 다이를 8층 또는 16층으로 쌓아 올리는 메모리 기술입니다. 이는 기존의 메모리 구조와 차별화되는 방식으로, 고성능 및 대용량 메모리를 구현하기 위한 새로운 시도입니다. HBF는 이러한 적층 기술을 통해 데이터 처리 효율을 극대화하는 것을 목표로 합니다.

이러한 목표는 기존 메모리 기술 대비 혁신적인 성능 향상을 통해 인공지능(AI)과 고성능 컴퓨팅(HPC) 분야의 요구사항을 충족시키려는 의지를 보여줍니다. 높은 대역폭은 데이터 처리 속도를 향상시키고, 대용량은 더 많은 데이터를 한 번에 처리할 수 있게 합니다.

HBM 한 개가 약 36GB의 용량을 가지는 반면, HBF는 512GB로 훨씬 큰 용량을 제공합니다. 또한, 대역폭 측면에서도 HBM4의 목표치인 2.5TB보다 높은 3TB를 목표로 설정하여 차세대 메모리로서의 잠재력을 보여줍니다. 이는 대량의 데이터를 빠르게 처리해야 하는 AI 가속기 등에서 큰 이점으로 작용할 수 있습니다.

HBF는 느린 트럭에 많은 짐을 실어 여러 대를 보내는 병렬화 방식을 통해 대역폭을 높였으나, 데이터가 목적지에 도달하는 근본적인 지연 시간은 극복하지 못합니다. 이로 인해 HBF는 HBM을 완전히 대체하기보다는 보조하는 역할에 그칠 가능성이 큽니다.

HBF의 대역폭은 GPU와의 물리적 거리에 따라 크게 감소하는 특성을 보입니다. 예를 들어, HBF와 GPU 간의 간격이 2mm일 때는 3TB에 가까운 대역폭을 구현할 수 있지만, 간격이 2.5cm로 멀어지면 대역폭이 0.4TB밖에 나오지 않습니다. 이는 HBF가 GPU와 최대한 가깝게 배치되어야 최대 성능을 발휘할 수 있음을 의미하며, 설계상 큰 제약으로 작용할 수 있습니다.

HBF는 대역폭의 거리 민감성 때문에 GPU 바로 옆의 인터포저(Interposer)에 직접 올라가지 못할 가능성이 큽니다. 대신, 인터포저 밑에 있는 서브스트레이트(Substrate)에 올라갈 것으로 예상됩니다. 이는 GPU와의 거리를 벌려 대역폭 손실을 감수하더라도, 복잡한 적층 구조와 발열 문제를 고려한 현실적인 배치 방안으로 분석됩니다.

엔비디아는 HBF와 같은 적층 방식보다는 데이터 센터 전체에서 렉 단위로 문제를 해결하는 CMX(Compute Express Link) 방식을 선호하는 것으로 알려져 있습니다. 이는 HBF 기술의 상용화와 확산에 중요한 변수로 작용할 수 있습니다.

HBF 자체의 발열량도 크지만, 외부 발열에도 굉장히 취약하여 주변 온도 변화에 민감하게 반응합니다. GPU와 가까이 붙였다가는 성능 저하를 넘어 시스템 작동에 문제가 생길 정도로 발열 문제가 심각하다고 지적됩니다. 따라서 HBF의 성공적인 도입은 발열 제어 기술의 확보에 달려있습니다.

HBF 기술의 시장 도입 시기는 당초 예상보다 늦춰질 것으로 보입니다. 작년에는 올해 양산을 자신했지만, 최근 취재 결과에 따르면 내년 하반기 정도에나 실제 양산이 이루어질 것으로 전망됩니다. 이는 기술적 난관, 특히 발열 문제 해결과 주요 기업들의 도입 결정에 시간이 더 소요될 것임을 시사합니다.

만약 구글이 HBF를 자사 TPU에 대규모로 도입한다면, 이는 HBF 기술의 시장 확산에 결정적인 전환점이 될 수 있습니다.