ARM, 서버용 CPU로 AI 시대 겨냥

ARM은 핫칩스 2026에서 인공지능(AI) 에이전트 시대를 겨냥한 새로운 서버용 CPU를 처음 공개했습니다. 이는 기존의 CPU 설계도 판매를 넘어, 데이터 센터 설계를 위한 새로운 청사진을 제시하는 행보로 해석됩니다.

현재의 AI는 주로 사용자의 질문에 단순히 응답하는 수준에 머무르지만, 앞으로 AI는 사람의 비서처럼 스스로 일을 처리하는 AI 에이전트로 진화하고 있습니다. 이러한 AI 에이전트는 여러 작업을 나누어 처리하는 복잡한 과정을 스스로 수행할 것으로 예상됩니다.

AI 시대에는 GPU가 복잡한 계산을 담당하는 최고의 전문가 역할을 수행합니다. 반면 CPU는 여러 전문가인 GPU를 지휘하는 프로젝트 매니저와 같은 역할을 맡아 작업 배분, AI 간 연결, 그리고 GPU의 효율적인 운용을 담당하게 됩니다.

ARM은 이번 발표에서 AI 에이전트가 작업을 수행하는 과정의 40%에서 60%가 CPU에서 이루어진다고 설명했습니다. 이는 AI 성능 향상에 있어 GPU뿐만 아니라 CPU의 역할이 매우 중요하며, 전체 시스템의 효율적인 설계가 핵심 경쟁력이 될 것임을 시사합니다.

지금까지 ARM은 주로 CPU 설계도를 만들어 애플, 엔비디아, 아마존, 구글, 마이크로소프트와 같은 기업에 라이선스를 판매하는 사업 모델을 가지고 있었습니다. 그러나 이번에는 처음으로 직접 서버용 CPU를 내놓으면서, 데이터 센터 시장에서 더 높은 부가가치를 창출하려는 전략적인 전환을 시도하고 있습니다.

AI 모델이 갈수록 커지면서 GPU의 처리 속도는 빨라지고 있지만, 메모리가 데이터를 GPU에 충분히 빠르게 공급하지 못해 GPU가 데이터를 기다리는 '메모리 월(Memory Wall)' 현상이 계속 발생하고 있습니다. 이에 대응하여 삼성전자는 HBM(고대역폭 메모리) 내에 연산 기능을 탑재하는 기술을 개발 중이며, SK하이닉스는 고용량, 고속 데이터 전송에 최적화된 차세대 메모리 개발에 집중하고 있습니다.

반도체 산업의 경쟁 패러다임은 이제 가장 빠른 단일 칩을 만드는 경쟁에서 가장 효율적인 AI 시스템 전체를 만드는 경쟁으로 넘어가고 있습니다. 이러한 변화 속에서 패키징 기술과 인터커넥트(서로 다른 칩을 연결하는 기술)는 AI 인프라의 핵심 축으로 부상하고 있습니다.