삼성전자 현직자가 말하는 AI 시대 메모리 반도체 시장의 기회와 도전 과제

과거에는 중앙처리장치(CPU)가 연산하는 동안 메모리가 데이터를 천천히 공급하며 병목 현상을 일으켰습니다. 그러나 인공지능(AI) 시대에 접어들면서 그래픽처리장치(GPU)와 같은 연산 장치의 성능이 무어의 법칙을 따라 기하급수적으로 발전하는 동안, 메모리의 데이터 전송 속도 개선은 상대적으로 더디게 진행되었습니다.

이로 인해 이제는 GPU가 연산을 마치고 다음 데이터를 기다리는데 메모리가 제때 데이터를 공급하지 못해 GPU가 유휴 상태에 빠지는 현상이 빈번하게 발생하고 있습니다. 이는 전체 시스템의 효율성을 저해하는 주요 원인으로 지목되며, 고성능 메모리에 대한 수요를 폭발적으로 증가시키는 배경이 되고 있습니다.

예전에는 CPU는 한창 일을 하고 있는데 메모리가 이렇게 가만히 있다가 데이터를 천천히 주는 그런 느낌이었는데 지금은 GPU가 일을 다 하고 기다리고 있는데 데이터 전송이 안 와 가지고 GPU가 놀고 있는 상황인 거예요.

특히 높은 수율을 확보하는 것이 생산성 증대와 비용 효율화의 핵심 과제로 부상했습니다.

수율을 충분히 끌어올려야 생산량을 늘리고 단위당 원가를 낮출 수 있기 때문입니다. 더불어 일반 D램 생산에 할당되던 설비(Capa)가 HBM 생산으로 전환되면서, HBM 제조사들은 제한된 자원 내에서 효율을 극대화해야 하는 이중고를 겪고 있습니다.

수요를 올려야 생산성이 올라가고 단가가 떨어지니까. 저희는 수요 관리하는 부서니까.

이는 전체 D램 시장에서 공급 부족 현상을 야기하고 있습니다.

특히 모바일 기기와 노트북 등에 사용되는 일반 D램의 공급량이 줄어들면서, 시장 전반의 D램 단가가 상승하는 추세를 보이고 있습니다. 이러한 상황은 공급자 우위 시장으로의 전환을 의미하며, 반도체 제조사들의 시장 내 영향력을 확대하고 있습니다.

HBM이 단가가 높으니까 생산량이 늘어나는데 디램의 생산량이 줄어들잖아요. 공급이 줄어드는 거예요. 디램이 공급 자체가 줄어드니까 단가가 올라가는 거죠.

과거 애플은 부품 단가를 강하게 협상하고 가격 인상에 저항하는 강력한 협상력을 가진 기업으로 알려져 있었습니다. 그러나 최근 애플이 제품 가격을 인상한 것은 메모리 반도체 가격의 급등을 더 이상 감당할 수 없었기 때문으로 풀이됩니다.

이러한 현상은 시장의 주도권이 최종 제품을 만드는 회사에서 핵심 부품을 공급하는 반도체 제조사로 옮겨갔음을 명확하게 보여주는 사례입니다. 메모리 반도체의 전략적 중요성이 커지면서 공급사 중심의 시장 구조가 확립되고 있음을 시사합니다.

애플은 원래 굉장히 강한 가격 협상력을 갖고 있었어요. 절대 가격 안 올리고 부품 단가 후려치고 이런 거 잘 했었는데 지금은 도저히 메모리 가격을 감당할 수 없다는 거죠. 주도권이 제품을 만드는 회사에서 공급하는 회사로 옮겨갔다는 것을 보여주는 것이 애플의 가격 상승이라고 저 생각합니다.

반도체 제조사들은 생산된 제품의 품질과 수율에 따라 다양한 출하처를 두고 있습니다. 이는 반도체 칩의 성능과 신뢰도에 따라 판매 시장을 세분화하여 효율적인 공급망을 구축하는 방식입니다.

일반적으로 수율과 품질이 높은 제품은 프리미엄 시장에, 그렇지 않은 제품은 상대적으로 낮은 등급의 시장에 공급됩니다. 최근 중국산 반도체 수입 제한 등의 지정학적 요인으로 인해 대체 수요가 발생할 가능성이 높아지면서, 이러한 등급별 출하 체계의 중요성이 더욱 부각되고 있습니다.

저희 회사에도 출하처라는 게 단계별로 있거든요. 어떤 수율이나 품질이 이 정도면 여기 팔고 좀 더 좋게 나오면 여기 팔고 좀 더 좋게 나면 여기 팔고.

반도체 웨이퍼 제조 과정에서 수율을 확보하는 것은 매우 어려운 과정입니다. 수많은 공정을 거친 후 최종적으로 칩이 하나라도 살아남아야 해당 공정의 성공 가능성을 확인할 수 있습니다.

만약 성공적으로 칩이 생존하면, 그 경로를 면밀히 분석하여 불량률을 개선하는 데 활용합니다. 특히 포토 공정과 엣치 공정 간의 미묘한 상호작용과 정밀도 문제는 웨이퍼 수율을 좌우하는 핵심 요소이며, 이 과정에서 발생하는 미세한 오류도 전체 수율에 큰 영향을 미칩니다.

최종에 칩이 하나 살아 있으면 그게 이제 공정을 찾은 거예요.

특정 방식으로 공정을 진행했을 때 어떤 종류의 불량이 발생하는지, 그리고 다양한 공정 단계들이 서로 어떻게 영향을 미치는지에 대한 깊이 있는 지식이 필수적입니다.

이러한 노하우는 수십 년간의 경험과 데이터 축적을 통해 얻어지며, 불량 원인을 정확히 파악하고 이를 해결하여 최적의 공정을 구축하는 데 결정적인 역할을 합니다. 이러한 지식 축적의 어려움이 바로 반도체 산업에서 신규 진입자가 성공하기 어려운 주요 이유 중 하나입니다.

요런 식으로 하면 요런 분량이 나오고 이렇게 진행하면 서로 교호가 어떤게 있고 하는 걸 아는 노하우가 저는 가장 중요하다고 생각하고 그것이 반도체 산업의 진입 장벽이 아닐까 싶습니다.

반도체 제조 과정에서 100%의 수율 달성은 물리적으로 불가능합니다. 이는 디팩(Defect), 즉 먼지나 미세한 찌꺼기 같은 불순물을 완전히 제거하는 것이 현실적으로 어렵기 때문입니다. 아무리 깨끗한 환경에서 제조해도 미세한 입자 유입을 완전히 막을 수는 없습니다.

반도체는 수천 개의 공정을 거쳐 만들어지는데, 각 공정의 성공 확률이 99.9%라고 가정해도 이 확률들이 누적되면 최종 수율은 급격히 하락합니다. 예를 들어, 1,000개의 공정 각각이 99.9% 성공한다고 해도 전체 공정 성공률은 (0.999)^1000 = 약 36.7%에 불과합니다.

따라서 통계적으로 보더라도 모든 공정에서 완벽하게 불량을 제어하여 100% 수율을 달성하는 것은 이론상 도달 불가능한 영역으로 간주됩니다. 이러한 본질적인 한계 때문에 수율 최적화는 반도체 제조의 영원한 숙제입니다.

기본적으로는 디팩이 제로가 될 수 없다고 전 디팩이 어떤 것이냐 쉽게 말하면 뭐 먼지 같은 거예요.

HBM은 데이터 대역폭을 최대한 확보하기 위해 메모리 다이와 베이스 다이를 결합하는 방식으로 발전하고 있습니다. 현재는 대부분의 제조사들이 베이스 다이를 동일한 형태로 만들고 있지만, 차세대 HBM은 고객사의 특정 요구사항에 맞춰 베이스 다이를 특화 설계하는 방향으로 진화할 것으로 예상됩니다.

이는 특정 애플리케이션이나 시스템에 최적화된 성능을 제공하기 위함입니다. 파운드리 기술의 발전을 활용하여 베이스 다이에 더 복잡하고 강력한 로직을 통합하는 추세도 나타나고 있으며, 이를 통해 HBM은 단순히 데이터를 저장하는 것을 넘어 연산 기능까지 강화하는 방향으로 발전할 것입니다.

베이스 다이를 지금은 다들 똑같이 만들고 있어요. 근데 그것을 어떻게 좀 특화해서 회사에는 원하는 요구상을 들어 줄 수 있는 베이스를 좀 설계하고 저런 회사에는 베이스를 좀 다르게 설계하는 식으로 좀 특화되는 것을 만들 수 있겠다고 저는 생각해요.

다음 단계는 화면 속 AI와 소통하는 것을 넘어, 로봇, 자율주행차, 드론 등 실제 물리적 세계에서 움직이는 '피지컬 AI'의 시대가 될 것으로 전망됩니다.

이러한 피지컬 AI는 클라우드 서버에 전적으로 의존하기보다는, 기기 자체에서 AI 연산을 수행하는 온디바이스 AI(On-device AI) 기술을 요구합니다. 이는 방산 분야까지 확대될 수 있는 광범위한 변화로, 반도체 산업에 새로운 성장 동력을 제공할 것입니다.

그다음에는 저는 어떤 화면 안에 있는 AI랑 소통하는 것이 아니라 좀 화면 밖에 튀어나와서 움직이거나 운전을 해 주거나 이제 로봇이나 자율주행이나 뭐 드론이 날라다니거나 방산까지 확대되는 그런 피지컬 AI의 시대가 올 거라고 생각을 하고요.

Z-HBM(직접적 고대역폭 메모리)은 기존 HBM의 한계를 뛰어넘는 혁신적인 구조를 제안합니다. 이는 마치 '주상복합' 건물처럼 연산 장치 위에 메모리 다이를 직접 쌓아 올리는 방식을 채택합니다. 기존에는 연산 장치와 메모리가 분리된 두 개의 건물에서 데이터를 주고받는 구조였다면, Z-HBM은 같은 건물 안에서 엘리베이터로 화물을 주고받는 것처럼 데이터 전송 효율을 극대화합니다.

이러한 구조적 변화는 TSV(Through Silicon Via) 밀도를 기존 대비 10배 이상 확대하여 데이터 병목 현상을 획기적으로 해소합니다. TSV는 실리콘 웨이퍼를 수직으로 관통하는 미세한 구멍으로, 이를 통해 메모리 다이 간 초고속 데이터 통신이 가능해집니다. 결과적으로 데이터 전송 속도는 물론, 데이터 센터의 전력 효율을 나타내는 전성비(Performance per Watt) 역시 크게 향상될 수 있습니다.

이러한 Z-HBM 기술은 AI, HPC(고성능 컴퓨팅) 등 막대한 데이터를 처리해야 하는 분야에서 시스템 성능과 에너지 효율을 동시에 높이는 핵심 솔루션으로 자리매김할 것으로 기대됩니다. 기존 HBM이 단순히 넓은 도로를 만드는 것에 집중했다면, Z-HBM은 데이터가 이동하는 물리적 거리를 최소화하여 지연을 줄이고 효율을 극대화하는 방향으로 발전한 것입니다.

ZHBM은 주상복합이에요. 연산 장치 위에다가 이제 아파트를 쌓는 거예요. 예. 그러니까 원래는 건물 두 개에서 화물을 주고받는 구조인데 이거를 그냥 위에 쌓 가지고 같은 건물에서 엘리베이터로 화물을 주고받는 구조이니까 당연히 더 빠른 것인데

이는 PC, 핸드폰, 클라우드 컴퓨팅 등 기존 수요처를 대체할 만한 새로운 기술이 단기간 내에 출현할 가능성이 낮기 때문입니다.

만약 기술적인 돌파구가 나타나지 않는다면, 메모리 반도체 기술은 점진적으로 특화된 방향으로 발전할 것으로 보입니다. 즉, 특정 애플리케이션이나 산업에 최적화된 고성능, 고효율 메모리 솔루션에 대한 수요가 계속해서 늘어날 것입니다.

기본적으로는 지금은 3년 정도는 보장되지 않을까라고 생각하고요.

삼성전자는 SK하이닉스보다 장기적인 성장 가능성 면에서 유리한 위치에 있습니다. SK하이닉스가 메모리 반도체 단일 사업에 집중된 구조인 반면, 삼성전자는 메모리, 파운드리, 시스템LSI 등 반도체 사업 전반에 걸쳐 다변화된 포트폴리오를 보유하고 있기 때문입니다.

이러한 구조적 차이는 삼성전자가 메모리, 비메모리, 그리고 이를 연계하는 시스템LSI 기술 간의 최적화를 통해 시너지를 창출할 수 있게 합니다. 또한, 스마트폰, 가전 등 완제품 사업까지 아우르는 폭넓은 사업 영역은 시장 변동성이나 특정 사업의 위기에 효과적으로 대응할 수 있는 뛰어난 위기 관리 능력을 제공합니다.

삼성전자가 무조건 더 잘 될 거라고 생각을 해요. 왜냐하면 SK 하이닉스는 메모리 하나의 사업을 하시는 곳이잖아요.

고대역폭 메모리(HBM) 초기 시장에서는 SK하이닉스가 엔비디아와의 협력을 통해 좋은 평가를 받으며 시장에서 유리한 위치를 선점했습니다. 이는 재빠른 파트너십 구축이 시기적으로 큰 이점으로 작용했기 때문입니다.

하지만 장기적인 관점에서는 사업 구조의 다변화와 종합 반도체 역량을 갖춘 삼성전자가 더욱 유리할 것으로 예상됩니다. 삼성전자는 메모리뿐만 아니라 파운드리, 시스템LSI 등 다양한 분야에서 시너지를 창출할 수 있는 잠재력을 가지고 있어, 미래 HBM 시장의 변화에 유연하게 대응하고 새로운 기술을 선도할 역량이 더 크다고 분석됩니다.

SK 하이닉스 HBM 초기 시장에서 좀 좋은 평가를 받고 있는데 그거는 재빠르게 M비디아에 손을 잡아서 시기적으로 좀 유리함을 가져갔다라고 생각하고

현직자들은 현재 자신들이 세계 최고 수준의 기술력을 보유하고 있다는 강한 자신감을 가지고 있으며, 당장의 경쟁 상대로는 중국 기업보다는 SK하이닉스와 같은 국내 경쟁사에 더 집중하는 경향을 보입니다.

반도체 기술 발전의 가장 큰 난제는 바로 '전력'과 '발열' 문제입니다. 회로가 미세화되어 전선이 얇아질수록 전기 저항이 증가하여 발열이 심해지는 현상이 발생합니다. 마치 도로가 넓을 때는 저항 없이 다닐 수 있지만, 좁아질수록 통행에 제약이 생기는 것과 유사합니다.

또한, 회로가 극도로 미세화되면 양자역학적 효과로 인해 전하가 의도치 않게 누설될 가능성이 커집니다. 이러한 전력 누설은 발열을 더욱 증가시키고 칩의 안정성을 저해합니다. 반도체 산업은 이러한 물리적 한계를 극복하기 위해 혁신적인 재료, 구조, 냉각 기술 개발에 지속적으로 도전하고 있습니다.

전력과 발열이라고 생각해요. 결국에는 도로가 넓으면 다닐 때 저항이 없잖아요. 그니까 발열이 잘 안 일어나요. 근데 조그해지면 조그해질수록 전선이 작아지는 거라고 생각하시면 돼요.

이들 기업은 웬만한 빅테크 기업들보다도 높은 수익성을 기록하고 있습니다.

이는 AI 기술의 핵심 인프라인 고성능 메모리 반도체를 한국 기업들이 선도적으로 공급하고 있기 때문입니다. 결과적으로 미국 등지에서 시작된 AI 혁신이 한국의 반도체 산업으로 실질적인 부를 가져오는 현상이 나타나고 있으며, 이는 현직자들의 끊임없는 기술 개발 노력과 혁신이 이뤄낸 성과입니다.

웬만한 빅테크보다 우리나라 반도체 기업이 돈을 더 잘 벌어요. 미국이 AI를 열었는데 실제로 돈은 한국으로 들어오는 예.