AI 시대, 엔비디아의 혁신 전략

AI 시대에 컴퓨터 산업은 10~15년 주기로 리셋되는 과정 중이다. 이번 변화는 소프트웨어 개발 방식과 컴퓨팅 스택의 재창조가 동시에 발생하는 것이 특징이다. 소프트웨어 프로그래밍 방식은 모델 훈련 방식으로 변화하고 있으며, 컴퓨팅 스택 5계층 전체가 현대화되는 중이다.

연간 약 2천억 달러 규모의 벤처 캐피털 자금이 현대화와 새로운 AI 세상을 창조하는 데 투입되고 있다. 100조 달러 규모의 산업 R&D 예산이 재편되면서 기존 컴퓨팅 방식에서 AI 현대화 방식으로 자금이 이동하는 추세다.

에이전틱 모델은 정보 검색, 조사, 결과 시뮬레이션 능력을 확보하고 있으며, Cursor와 같은 사례를 통해 소프트웨어 프로그래밍 방식에 혁신을 가져오고 있다. 이 기술은 2025년 기준 전 분야에 걸쳐 보편화 단계에 진입할 것으로 예상된다.

DeepSeek R1과 같은 모델의 등장이 이를 뒷받침한다. 오픈 소스 혁신으로 스타트업부터 국가 단위에 이르기까지 AI 개발에 참여하는 주체가 확대되고 있다. 새로운 모델이 6개월 주기로 발표되면서 기술 격차가 빠르게 줄어들고 있다.

AI는 멀티 모델의 특성을 가지며, 작업에 가장 적합한 모델을 선택하여 사용할 수 있어야 한다. Perplexity와 같은 혁신 기업들은 이미 멀티 모델 활용 사례를 제시하고 있다. 이러한 방식은 멀티 클라우드 및 하이브리드 환경에서의 AI 배포를 가능하게 한다. 스마트 라우터를 통해 사용자의 의도에 맞는 최적의 모델을 결정하는 것이 핵심이다.

엔비디아는 지멘스와 산업용 피지컬 AI 파트너십을 체결했다고 발표했다. 이번 파트너십을 통해 CUDA-X, 피지컬 AI, 에이전틱 AI, Nemo, Nemotron 등 엔비디아의 핵심 기술이 지멘스의 세계에 깊이 통합된다. 이는 디지털 트윈 및 산업 라이프사이클 전반에 AI 기술을 도입하여 제조 플랜트의 거대한 로봇화를 실현하는 것을 목표로 한다.

이 아키텍처는 암흑 물질을 발견한 천문학자 베라 루빈을 기리기 위해 명명되었다. 현재 Vera Rubin은 양산 진행 중이며, 6개 칩 기반의 공동 설계 시스템으로 구성되어 있다.

AI가 더 오래 사고 과정을 노출할수록 더 좋은 답이 나오는 경우가 많다는 분석이다. 이에 따라 테스트 시점 스케일링으로 생성되는 토큰 수는 매년 5배씩 증가하고 있으며, 토큰 생성 비용은 기술 경쟁으로 매년 10배씩 감소하고 있다.

매년 5배씩 늘어나는 토큰 수요와 둔화된 무어의 법칙 사이의 격차는 새로운 도전 과제로 부상했다. 엔비디아는 이에 대응하기 위해 전체 칩 스택을 동시에 혁신하는 '극단적인 공동 설계'를 도입했다. 이는 이번 세대에서 모든 칩을 다시 설계하는 것 외에는 다른 선택의 여지가 없다는 판단에 따른 것이다. 결과적으로 트랜지스터 수는 1.6배 증가하면서 5배의 성능 향상을 달성했다.

기존 구조는 43개의 케이블을 포함하는 복잡한 해체형 방식이었다. 하지만 새로운 수냉 시스템 기반의 구조는 조립 효율성을 크게 높이고 단순화하여 이러한 성과를 가능하게 했다.