HBM 이후, AI 병목은 어디로 가나

기술 기반 혁신과 실제 사업 모델을 갖춘 기업 선정이 우선이다. 김지현 부사장은 기술 기업 투자 시 해당 기술에 대한 믿음과 실적 달성 가능성을 가장 중시한다.

투자는 단기 차익보다 최소 1년 반에서 3년 이상의 장기 보유 전략이 요구된다.

이 원칙은 혁신 기술을 활용해 가치를 창출하는 전통 산업군에도 똑같이 적용된다.

김지현 테크라이터는 수익 창출 단계를 계층별로 나누는 모델을 제시했다.

가장 기본적인 단계는 코어테크로 불리는 원천 기술을 개발하고 공급하는 기업이며, 그다음 단계는 이 원천 기술을 상품에 적용하여 사용자에게 판매하고 수익을 얻는 기업이다.

마지막 단계는 이러한 상품의 솔루션을 제공하거나 서비스를 직접 운영하여 가치를 창출하는 기업으로, 과거 웹 시대에 인프라, 서비스, 광고 솔루션으로 이어지는 수익 구조 변화를 예시로 들었다.

오픈AI와 엔트로픽을 포함한 기업들은 모델 품질을 높이기 위해 치열한 성능 경쟁을 벌이고 있다.

학습을 위한 컴퓨팅 자원인 GPU 수요가 급증하면서 AI 인프라의 첫 번째 병목 현상이 발생했다.

GPU 성능 향상과 더불어 고대역폭 메모리(HBM)의 중요성이 부각되고 있으며, GPU 하나당 탑재되는 HBM의 수가 4개에서 8개로 증가하는 추세다.

HBM은 기존 D램을 적층 방식으로 쌓아 속도를 높인 기술로, 이 기술을 보유한 기업들이 수익을 얻고 있으며 AI 학습에 필요한 프롬프트와 데이터가 증가하면서 HBM을 포함한 전체 메모리 수요가 폭발적으로 늘어난다.

HBM 생산에 D램 공급이 집중되면서 일반 D램의 공급 부족 현상이 발생하고 가격 상승을 부추기는 요인으로 작용한다.

LPDDRX 등 고성능 메모리 요구가 거세지면서 D램 공급난은 한층 심화될 전망이다. 아이폰을 비롯한 모바일 기기에 AI가 핵심 기능으로 탑재됨에 따라 고속·고용량 제품 수요는 한층 가파르게 치솟는다.

이는 기존 D램보다 더 빠른 속도의 LPDDRX와 같은 고성능 메모리를 요구하며, D램 시장의 공급난을 더욱 심화시키는 요인이 된다.

D램은 휘발성 메모리여서 장기적인 데이터 저장에는 한계가 있으며, AI가 처리해야 할 데이터 양이 급증하면서 비휘발성 저장장치인 SSD의 수요가 폭발적으로 증가한다.

이에 따라 삼성전자와 SK하이닉스 등 주요 메모리 제조사들의 낸드플래시 가격이 상승하고 있으며, 데이터센터는 물론 영상 편집 등 고용량 데이터 처리가 필요한 분야에서 저장 공간 확보 경쟁이 치열해진다.

데이터센터의 규모가 1GW에서 10GW, 나아가 20GW까지 급증하면서 앞으로 필요한 전력량이 어마어마하게 증가할 것으로 예측된다.

기존 전력망으로는 감당이 어려워 SMR·신재생 에너지 등 새로운 전력원 확보가 시급하다.

1GW당 소형 원전 1기 규모의 전력이 필요한 상황에서 컴퓨팅 자원 확보 이후 전력 공급이 새로운 병목으로 떠오르고 있다. 국내 데이터센터 전력은 현재 약 1.5GW 수준이나 10년 내 10배 이상으로 급증할 것으로 보인다.

1GW는 소형 원전 1기 규모로, GPU와 메모리 병목이 해결되면 전력 공급이 차기 장애물이 될 전망이다.

데이터센터 내 GPU와 HBM의 처리 속도가 빨라지면서 발생하는 막대한 열을 효과적으로 식혀주는 냉각 기술의 중요성이 커지고 있다.

전력 소모가 큰 공냉식에서 수냉식으로의 전환이 예상되며, 냉매, 냉각 부품, 그리고 관련 설비를 공급하는 기업들의 매출이 크게 증가할 것으로 전망된다.

서버와 칩 간 연결을 위해 CPO 기술과 광케이블 도입이 확대되는 가운데 루멘텀 홀딩스와 같은 관련 소재 기업이 주목받는다.

현재 최첨단 AI 모델들이 인터넷에 공개된 데이터로 학습했지만, 이러한 데이터는 이미 바닥을 드러내고 저작권 문제로 인해 추가적인 데이터 확보가 어려워지고 있다.

이에 따라 바이오, 제조, 조선 등 전통 산업 내에서 생성되는 고품질의 물리 데이터의 가치가 크게 상승할 것으로 전망된다.

기업 내부 데이터를 디지털화하여 AI 학습 솔루션을 제공하는 업체가 미래 시장의 수혜를 입는다.

기술적 병목을 발견했다면, 그 안에서도 세분화된 영역을 깊이 있게 분석하고 각 기업이 해당 병목을 해결하기 위해 어느 정도 기술 투자를 하고 있는지 파악해야 한다.

단순 테마성 투자를 지양하고 CEO 리더십과 파트너십, 매출 실적을 확인하는 검증 절차가 중요하다.

AI와 대화하며 최근 1~3년간의 기업 실적과 매출 비중, 사업 내용을 상세히 조사할 수 있다.

기업이 차세대 병목 현상을 해결하기 위해 어떤 기술 혁신과 솔루션을 개발하고 있는지 특허 등의 데이터를 통해 검증해야 한다.

스마트폰 초기 디바이스 판매 위주였던 생태계는 안드로이드 등 소프트웨어 플랫폼 확산과 함께 변화했다.

그다음 단계로 통신사들이 데이터 사용량 증가로 막대한 수익을 창출했으며, 이후에는 배달, 커머스, 핀테크 등 특정 섹터의 애플리케이션이 시장을 지배하는 시대가 도래했다.

결과적으로 앱 중심 시대 이후에는 이를 뒷받침하는 클라우드와 데이터센터 인프라가 주목받는 흐름으로 이어졌다.

AI는 클라우드 기반으로 작동하며, 그 위에 AI 모델이 존재한다. 이 모델을 효율적으로 운영하기 위한 라우터, 오케스트레이션 등 AI 솔루션 레이어들이 중요하다고 설명했다.

이후에는 AI 애플리케이션이 발전하고, 궁극적으로는 스스로 판단하고 행동하는 AI 에이전트 단계로 진화할 것으로 예측하며, 데이터센터가 시작점일 뿐 다양한 기술적 병목 레이어가 존재한다고 강조했다.

기술 발전은 과거의 흐름을 학습하는 것과 동시에 미래에 대한 상상력을 통해 설계된다고 설명하며, 영화나 소설 같은 SF 콘텐츠가 큰 도움을 준다고 강조했다.

드라마 '업로드'처럼 가상 현실과 디지털 휴먼의 미래를 상상하며 어떤 서비스와 기술이 주목받고 성공할지 예측할 수 있으며, 특히 이공계 전문가들이 SF 소설이나 영화를 통해 상상력과 기술적 구현의 연결고리를 찾는 것이 중요하다고 조언했다.