미국의 기술 공개 지연, 중국의 AI 추격 속도를 늦춘다
특히 오픈AI와 앤스로픽의 차세대 모델이 양국 간 기술 격차를 더욱 벌릴 핵심 요소로 지목됐다.
손 대표는 "기술력은 따라하고 있지만은 독창적인 기술보다는 미국을 모방하는 그런 상황이다라고 보면은 미국이 이거를 공개를 하는 거를 늦추게 되면은 중국이 따라오는 거를 늦출 수가 있는 거죠"라고 말했다.
엔비디아 이후 AI 산업의 핵심은 추론 인프라이며, 이에 따른 광통신 관련주가 부상하고 있다.
특히 오픈AI와 앤스로픽의 차세대 모델이 양국 간 기술 격차를 더욱 벌릴 핵심 요소로 지목됐다.
손 대표는 "기술력은 따라하고 있지만은 독창적인 기술보다는 미국을 모방하는 그런 상황이다라고 보면은 미국이 이거를 공개를 하는 거를 늦추게 되면은 중국이 따라오는 거를 늦출 수가 있는 거죠"라고 말했다.
실제 서비스 구현을 위한 추론 인프라는 최신 모델 투자보다는 기존 모델의 빠른 운영 효율성과 비용 효율성을 통해 토큰 생성을 극대화하는 것이 중요하다고 분석했다.
손 대표는 "지금은 투자가 학습 관련된 부분도 있지만 훨씬 더 투자가 많이 늘어나는 쪽은 추론 쪽이에요. 실제 서비스를 하기 위해서 추론 인프라 투자인데 이쪽은 최신 모델에 대한 투자보다는 기존에 있는 모델을 얼마만큼 빠르게 돌리느냐 비용 효율을 화로 토큰을 많이 생성하게 하느냐가 중요하기 때문에 이 수요는 줄지가 않습니다"라고 강조했다. 이 수요는 메모리 수요와 직결되어 지속될 것으로 전망했다.
데이터 상태를 기억하고 저장하는 역할은 메모리와 스토리지, 데이터 이동은 광인터커넥트, 데이터 조율은 CPU 오케스트레이션이 담당한다고 설명했다.
그는 GPU의 연산 성능이 올라가지 않더라도 이 네 가지 요소의 병목 현상은 더욱 확대될 것이라고 전망했다. 특히 광인터커넥트 관련 기업으로는 이수페타시스, 두산, 삼성전기, RF머트리얼즈 등을 언급했다.
Don’t miss the next video from this channel
When a new video goes live, we’ll turn it into an easy-to-read article like this and email it to you.
You can unfollow any time.
손정우 대표는 AI 학습에 필요한 메모리는 대규모 클러스터 구축과 모델 확장을 위해 GPU를 한곳에 모아 작동시키는 방식이 중요하며, HBM3e가 중심이 될 것으로 내다봤다. 반면 추론에서는 데이터를 여러 번 자주 보내는 효율성이 중요해 메모리 수요가 다른 쪽으로 확산된다고 설명했다.
손 대표는 추론 수요에 따라 일반 디램(DDR5 등)과 LPDDR5X의 수요가 증가할 것으로 예상했다. 그는 "학습에 필요한 메모리의 경우에는 그 GPU를 한 곳에 다 때려 모아 가지고 우리가 이제 클러스터라고 하거든요. 다 모아 가지고 작동을 하게끔 모델을 굉장히 키워야 돼요. 추론에서는 데이터를 여러 번 자주 보내는게 중요하거든요. 그렇게 되면 메모리의 수요가 다른 쪽으로 확산이 됩니다"라고 말했다.
이제는 단순 가격(P) 중심이 아닌 총량(P*Q) 시장 확대를 주시해야 하는 PQ 사이클의 시대가 도래했다고 설명했다.
그는 "지금 가격 떨어지는 속도보다 토큰의 수요가 늘어난 속도가 훨씬 더 가파르게 올라오고 있잖아요. 그래서 인프라 투자는 Q가 늘어난다. PQ 사이클 이제는 가격도 보지만은 Q에서 P * Q가 전체적인 총량이 늘어나는 사이클을 봐야 되는게 앞으로 AI 사이클의 핵심인 거 같습니다"라고 언급했다. 블랙웰 및 아스트라 사례가 이러한 시장 추세를 증명한다고 덧붙였다.
최근 HBM 다이어트 논란에 대해 손정우 대표는 학습에 필요한 최선단 HBM은 고단수를 유지할 것이라고 설명했다. 그는 HBM 단수 감소는 주로 추론 인프라에서 발생하며, 높은 대역폭이 불필요한 추론 쪽에서는 단수를 줄여도 충분하다고 보았다.
손 대표는 "최선단에 공급하는 학습에 필요한 HBM은 단수를 줄이지 않을 거예요. 그러니까 요구를 하는 거는 앞서 말씀드린 추론 인프라일 거예요. 그러니까 굳이 높은 대역폭을 필요로 하지 않는 추론 쪽에서는 단수를 줄여도 충분하다. 대신에 좀 더 자주 데이터를 오가게끔 만드는 효율성 관점에서 메모리를 더 쓰겠다는 거죠"라고 말했다. 이는 전체적인 메모리 탑재량(비트 단위)은 오히려 늘어나는 효율성 전략이라고 덧붙였다.
광통신 기술은 현재 800GB에서 1600GB로의 업그레이드가 진행 중이며, 이는 광통신 밸류체인의 확장을 의미한다고 손정우 대표는 설명했다. CPO(Co-Packaged Optics) 수요는 내년 초부터 본격화될 것으로 예상된다.
손 대표는 "지금 진행되고 있는 거는 800GB에서 1600GB로 광을 연결하는 겁니다"라고 말했다. 또한 2028년에는 GPU 간 연결을 위한 광 엔진 도입이 예상되며, 기존 광 모듈 업체의 실적 향상이 기대된다고 덧붙였다.
이는 기존 일반 인터넷과 데이터 센터용 광통신의 경계가 소멸되는 현상이다.
손 대표는 "앞으로는 데이터 센터와 데이터 센터를 연결하는 이제는 일반적인 땅으로에서 연결되는 기준으로 바뀌게 되면은 거리가 길어지기 때문에 이 통신 장비의 수요까지 올라가게 되고요"라고 설명했다. 미국 내 5G 투자 및 내년 4월 주파수 경매가 이러한 변화의 촉매제가 될 것이며, KMW, 솔리드 등 국내 통신 장비 업체의 낙수 효과가 기대된다고 언급했다.
위성 데이터 전송의 병목 현상은 결국 광통신 기술로 해소될 수밖에 없다고 분석했다.
그는 "이제 우주로 광통신이 넘어갑니다. 이제 위성이 위성 발사를 스페이스 X 기준으로 28년 정도에서 9년 정도가 되면은 지금 발사되는 위성 대수 대비해서 네 배 정도를 발사를 하게 됩니다"라고 말했다. 위성-지상 안테나-데이터 센터로 이어지는 인프라 구조가 형성되며, 2027~2028년으로 갈수록 광통신 및 통신 장비 수요가 크게 확대될 것으로 내다봤다.
AI 반도체 투자 시 고려해야 할 위험 신호로 네 가지 체크리스트를 손정우 대표가 제시했다. 첫째, 빅테크 기업들의 Capex(설비투자) 절대 금액이 감소하는지 여부를 확인해야 한다. 둘째, 메모리 재고 사이클에서 업계 평균 2주 대비 재고가 증가하는지 살펴봐야 한다.
셋째, 소부장 기업들의 주문 및 수주 잔고 흐름을 면밀히 확인하는 것이 중요하다. 넷째, 광통신 관점에서는 속도 업그레이드가 정체되는지 여부를 2028년 이후에 확인해야 한다고 강조했다.
손 대표는 "네 가지로 좀 보시면 될 거 같은데요. 첫 번째는 그 빅테크들의 케팩스 투자가 둔화되는지, 두 번째는 메모리에서 재고입니다. 세 번째는 지금 소부장에서 중요하게 보는 거는 주문 그리고 수주 잔고입니다. 네 번째 광통신 관점에서는 속도 업그레이드가 멈추는지"라고 설명했다.
추론 인프라는 메모리, 스토리지, GPU, 광 인터커넥트로 구성된다.
그는 "엔비디아 실적이 저렇게 계속 좋은 상황이면은 AI에 대해서 아직은 긍정적으로 보시는게 맞다고 생각을 합니다. 앞으로 주도할 거에 대해서 분리를 한다고 하면은 이제부터 중요한 거는 추론 인프라입니다"라고 말했다. 국내 메모리 업체들은 가격 사이클에 민감하지만, 내년 초에는 인식 전환이 기대되며 광 인터커넥트(광통신) 관련 밸류체인에 주목할 필요가 있다고 덧붙였다.
Answers come from the transcript, with the exact spot cited.
Want the next video from 김작가 TV too?
When 김작가 TV publishes, we'll write it up like the one you just read and email it to you.
김작가 TV published 19 in the last 7 days.
We skip Shorts. You can unfollow any time.
Local Agentic AI Enhances Mobile Game AccessibilityTestMu AI (Formerly LambdaTest)2 weeks ago · 42:11 · 48 views · Created 20 minutes ago
AI Transforms QA: Rise of the QE ArchitectTestMu AI (Formerly LambdaTest)2 weeks ago · 48:42 · 49 views · Created 20 minutes ago
Building Deterministic Infrastructure for Non-Deterministic AITestMu AI (Formerly LambdaTest)2 weeks ago · 19:34 · 212 views · Created 20 minutes ago