젠슨 황, NVIDIA의 AI 혁명에 대해 말하다

AI 알고리즘의 복잡성이 증가함에 따라 분산 컴퓨팅에서 칩 스케일에서 랙 스케일 설계로의 전환이 필요합니다. 알고리즘은 수천 대의 컴퓨터에 걸쳐 분할되고 최적화되어야 하며, 이는 전통적인 컴퓨팅 아키텍처의 한계를 뛰어넘습니다. 젠슨 황은 이제 극단적인 공동 설계가 필수적이며, 실리콘에서 시스템 소프트웨어에 이르기까지 전체 스택의 최적화가 필요하다고 설명했습니다.

암달의 법칙은 문제의 한 부분만 가속화될 경우 속도 향상의 한계를 보여주며, 전체론적 설계의 필요성을 강조합니다. 현대 컴퓨팅 문제는 단순히 처리 능력 이상으로 확장되어 네트워킹 및 스위칭 문제에 대한 혁신적인 솔루션을 요구합니다.

젠슨 황은 표준적이고 분리된 도표에 의존하기보다는 자신이 만드는 기계를 반영하는 조직 구조를 옹호합니다. 이러한 접근 방식은 모든 전문가가 복잡한 학제 간 문제를 해결하는 데 기여하는 응집력 있는 시스템을 만드는 것을 목표로 합니다.

황은 전통적인 일대일 회의 없이 약 60명의 직속 부하직원을 관리합니다. 이 구조는 네트워킹, 메모리 및 냉각과 같은 분야의 전문가들 간의 지속적인 협력을 촉진하여 통합된 문제 해결 환경을 조성합니다.

그의 목표는 내재된 협력을 통해 결과물을 생산하는 메커니즘을 만들어 회사가 통일되고 효율적인 시스템으로 작동하도록 보장하는 것입니다.

NVIDIA는 가속기 회사로서의 전문화와 범용 컴퓨팅으로의 확장 사이의 근본적인 긴장에 직면해 있습니다. 집중적인 전문화는 성능 이점을 가져오지만, 시장 한계를 만들고 R&D 역량을 제한할 수 있습니다. 젠슨 황은 이 두 가지 접근 방식의 균형을 맞추는 과제를 강조했습니다.

범용 컴퓨팅으로 확장하면 전문화된 가속의 이점을 희석시킬 위험이 있습니다. NVIDIA는 하드웨어에 프로그래밍 가능성을 점진적으로 추가하여 이러한 문제를 해결했으며, 이를 통해 핵심 전문성을 유지하면서 더 넓은 애플리케이션에 서비스를 제공할 수 있었습니다.

CUDA를 GeForce 소비자용 GPU에 통합하기로 한 결정은 NVIDIA에게 실존적 위험을 안겨주었습니다. 이 전략적 움직임은 새로운 컴퓨팅 아키텍처를 위한 설치 기반을 구축하기 위해 상당한 총이익을 희생한 것으로, 젠슨 황은 이를 실존적 위협에 가장 가까웠던 결정 중 하나라고 설명했습니다.

CUDA를 개발하는 데 소비자용 GPU 비용이 50% 증가했으며, 이는 당시 상당한 부담이었습니다. 이 기간 동안 NVIDIA의 시가총액은 약 15억 달러로 떨어졌는데, 이는 전략에 대한 시장의 불확실성을 반영한 것입니다.

이러한 대담한 움직임 뒤에 숨겨진 이유는 아키텍처의 성공이 주로 설치 기반에 달려 있다는 깨달음이었습니다. NVIDIA는 단기적인 수익성보다 장기적인 플랫폼 채택을 우선시했습니다.

젠슨 황이 대담하고 장기적인 투자를 할 수 있는 능력은 깊은 호기심과 원하는 미래가 필연적으로 느껴지게 하는 추론 과정이 결합된 데서 비롯됩니다. 그는 의사 결정을 자신이 명확하게 구상하는 미래를 현실화하는 것으로 봅니다.

이 과정은 현재 상태와 미래 목표 사이의 전환 기간 동안 상당한 '고통'을 견디는 것을 포함합니다. 전략적 도약은 엔지니어링 제약과 미래 시장 요구에 대한 깊은 믿음 모두에 의해 형성됩니다.

젠슨 황의 NVIDIA 리더십 전략은 하향식 지시보다는 내부 신념을 점진적으로 형성하는 데 중점을 둡니다. 그는 갑작스러운 조직 변경이나 대규모 해고를 피하고, 보다 유기적인 진화를 선택합니다.

황은 통찰력, 외부 정보, 새로운 발견을 끊임없이 공유함으로써 내부 합의를 구축합니다. 그는 팀의 신념 체계를 형성할 수 있는 모든 기회를 활용하며, 이 과정은 매일 이루어집니다.

이러한 지속적인 노력은 조직이 공식적으로 발표되기 전에 필요한 전략적 움직임을 예상하는 '100% 동의'를 목표로 합니다. 이는 회사가 공유된 미래를 집단적으로 이해하고 나아가는 환경을 조성합니다.

처음에는 사전 훈련이 데이터에 의해 제한되었지만, 이제는 합성 데이터의 출현으로 이 제약이 해결되고 있습니다.

추론, 즉 테스트 시간은 '사고'와 추론 단계로 간주되며 본질적으로 컴퓨팅 집약적입니다. 이 단계는 학습된 모델을 새로운 문제에 적용하는 데 중점을 둡니다.

다음으로 중요한 스케일링 법칙은 에이전트 스케일링으로, 황은 이를 'AI 증식'이라고 설명합니다. 이는 생산성을 빠르게 증식하고 복잡한 문제를 보다 효율적으로 해결하기 위해 신속하게 분리될 수 있는 하위 에이전트의 대규모 팀을 만드는 것을 포함합니다. 이러한 변화는 AI 능력과 적용의 새로운 수준을 열어줄 것입니다.

AI 모델 아키텍처는 6개월마다 진화하는 반면 시스템 하드웨어는 개발하는 데 3년이 걸린다는 점을 고려할 때 AI 개발을 위한 하드웨어 요구 사항을 예측하는 것은 중요한 과제입니다. NVIDIA는 내부 연구를 깊이 통합하고 전 세계 거의 모든 AI 회사와 협력하여 실질적인 경험을 제공함으로써 이 문제를 해결합니다.

이러한 광범위한 협력은 NVIDIA의 공동 설계 철학의 일부로, 하드웨어 개발이 미래 AI 요구 사항과 일치하도록 보장합니다. 회사의 유연한 CUDA 아키텍처는 Mixture-of-Experts(MoE)와 같은 현대 알고리즘에 하드웨어를 적응시키는 데 중요한 역할을 합니다.

자체 AI 모델을 생성함으로써 NVIDIA는 직접적인 경험을 얻고, AI 혁신의 빠르게 변화하는 요구 사항을 충족할 수 있는 하드웨어 설계를 알립니다. 이 전략을 통해 미래 요구 사항을 예측하고 적응 가능한 인프라를 구축할 수 있습니다.

이 규칙은 에이전트 시스템이 세 가지 핵심 기능 중 두 가지로 제한되어야 한다고 규정합니다: 민감한 정보에 액세스, 코드 실행 또는 외부 통신.

이 원칙은 에이전트가 세 가지 기능을 동시에 모두 소유하는 것을 제한함으로써 오용 또는 피해의 위험을 크게 줄일 수 있다는 것입니다. 젠슨 황은 시스템이 두 가지를 가질 수 있지만 세 가지를 동시에 가질 수는 없다고 강조했습니다.

NVIDIA는 이러한 보안 제어를 통합하는 데 OpenClaw를 지원할 계획이며, 정책 엔진은 이러한 기업 권한을 효과적으로 관리하는 데 중요합니다.

젠슨 황은 메모리 산업 표준을 바꾸는 데 중추적인 역할을 했으며, 여러 CEO를 설득하여 데이터 센터에 고대역폭 메모리(HBM)와 저전력 이중 데이터 전송률(LPDDR)을 채택하도록 한 방법을 자세히 설명했습니다. 약 3년 전에는 HBM 메모리가 주로 슈퍼컴퓨터에서 거의 사용되지 않았지만, 황은 주류 채택을 예측했습니다.

그는 AI 워크로드에 대한 우수한 성능을 인식하고 CPU용 기존 DDR 메모리에서 데이터 센터용 HBM으로 전환할 것을 주장했습니다. 또한, 전력 효율성을 활용하여 휴대폰 메모리, 특히 LPDDR5를 슈퍼컴퓨터 사용에 적용할 것을 옹호했습니다.

황은 미래 시장 요구에 대해 공급망 파트너에게 알리고 영감을 주는 다리 역할을 합니다. 이러한 적극적인 참여는 AI 시대를 위한 새로운 기술 발전으로 산업을 정렬하는 데 도움이 됩니다.

젠슨 황은 전력망이 99%의 시간 동안 피크 용량 미만으로 작동하여 상당한 유휴 전력을 사용할 수 있다고 강조했습니다.

데이터 센터는 극심한 그리드 스트레스 기간 동안 '점진적 성능 저하'를 구현하기 위한 계약을 체결할 수 있습니다. 이는 사회 인프라가 최대 전력을 필요로 할 때 데이터 센터가 일시적으로 더 적은 전력을 받게 된다는 것을 의미합니다.

이 세 가지 해결책에는 고객 요구 사항 정렬, 유연한 데이터 센터 아키텍처 설계, 전력 할당을 동적으로 관리하기 위한 유틸리티 유연성 확보가 포함됩니다. 목표는 기존 인프라를 최적화하고 지속적인 그리드 확장 필요성을 줄이는 것입니다.

수십억에서 수천억 달러에 이르는 사업 관계는 신뢰와 깊은 개인적인 유대 관계를 바탕으로 구축되었습니다.

황은 TSMC의 창립자인 모리스 창과의 관계를 깊은 우정으로 묘사했습니다. 이러한 독특한 arrangement는 반도체 산업에서 장기적인 신뢰와 상호 이해의 중요성을 강조합니다.

공식 계약의 부재는 그들의 협력을 방해하지 않았으며, 강력한 개인적인 유대가 중요한 사업을 뒷받침할 수 있음을 보여줍니다. 이 파트너십은 NVIDIA가 고급 GPU 제조에서 성공하는 데 결정적인 역할을 했습니다.

이러한 전환은 AI 인텔리전스를 확장 가능하고 고가치 상품으로 포지셔닝합니다.

황은 AI 기반 통찰력이 다양한 분야에서 생산성을 향상시켜 글로벌 GDP를 크게 가속화할 것이라고 주장합니다. 제품으로서의 인텔리전스의 내재된 확장성은 그 가치가 빠르게 증식할 수 있음을 의미합니다.

NVIDIA가 이러한 생성 컴퓨팅 전환을 위한 기반 기술에 중점을 두는 것은 지속적인 관련성과 확장을 보장합니다. 회사의 미래는 AI의 산업 전반에 걸친 보급과 연결되어 있습니다.

젠슨 황은 NVIDIA가 '시장 점유율 사업'에 있지 않다고 말합니다. 대신 회사의 핵심 전략은 아직 존재하지 않는 시장을 위해 구축하는 것을 중심으로 합니다. 이러한 접근 방식은 신생 기술에 대한 상당한 예측력과 투자를 필요로 합니다.

이 전략의 어려움은 시장 점유율을 얻을 기존 경쟁자가 없다는 점에 있습니다. NVIDIA는 완전히 새로운 범주와 생태계를 만드는 데 중점을 둡니다.

그는 AI 에이전트가 역사상 가장 빠르게 성장하는 애플리케이션이며, 전례 없는 속도로 채택이 가속화되고 있다고 언급했습니다.

에이전트의 급속한 증가는 AI 기능에 액세스하고 활용하는 방식의 패러다임 전환을 나타냅니다. 그들은 고효율 및 확장 가능한 자동화를 제공함으로써 다양한 산업을 변화시킬 준비가 되어 있습니다.

이러한 급속한 성장은 디지털 환경의 근본적인 변화를 시사하며, 에이전트가 생산성과 혁신을 위한 필수적인 도구가 될 것임을 나타냅니다. 황의 비유는 이 기술의 변혁적인 잠재력을 강조합니다.

특정 것들을 언제 잊을지 아는 능력은 앞으로 나아가고 과거의 부담이 발전을 방해하는 것을 막는 데 중요합니다.

리더에게는 걱정을 다른 사람에게 위임하여 '부담을 나누는 것'이 정신적 신선함을 유지하는 데 중요합니다. 이 접근 방식은 리더가 모든 세부 사항에 얽매이는 것을 방지하고 전략적 비전에 집중할 수 있도록 합니다.

아이와 같은 신선한 마음의 관점을 기르는 것은 실패에 대한 두려움을 완화하고 지속적인 학습과 적응을 장려하는 데 도움이 됩니다. 이 사고방식은 복잡한 문제를 헤쳐나가고 혁신을 촉진하는 데 필수적입니다.

그는 DLSS 5가 3D 조건부이며 지면 진실 구조 데이터에 의해 안내되므로 아티스트가 기하학을 결정한다고 설명했습니다.

황은 AI '불량'을 출력 목표로 한다는 개념을 단호히 거부하며, 이 기술이 모든 프레임에서 아티스트가 의도한 기하학에 대한 완전한 충실도를 유지한다고 강조했습니다. DLSS 5의 목적은 아티스트의 창작 과정을 대체하는 것이 아니라 향상시키는 것입니다.

이러한 접근 방식은 인간의 창의성을 위한 AI를 지원하는 NVIDIA의 광범위한 비전과 일치하며, 기존 기술을 향상시키는 강력한 도구를 제공합니다. 이 기술의 설계는 예술적 의도가 가장 중요하게 유지되면서 향상된 렌더링 성능을 위해 AI를 활용하도록 보장합니다.

젠슨 황은 '둠'을 산업에 미친 영향 측면에서 가장 영향력 있는 게임으로 꼽았는데, 특히 개인용 컴퓨터를 사무용 도구에서 전용 게임 장치로 변모시킨 점을 들었습니다. 이 게임은 PC 시장을 재편한 중요한 문화적 의미를 지녔습니다.

황은 또한 '버추어 파이터'를 게임 기술의 주요 영향력으로 강조하며, 그래픽 및 게임 플레이 메커니즘 발전 기여를 인정했습니다. '버추어 파이터'가 기술적 한계를 뛰어넘는 동안, '둠'은 소비자들이 PC를 인식하고 사용하는 방식을 근본적으로 바꿨습니다.

이러한 변화는 오늘날 우리가 보는 견고한 게임 산업의 토대를 마련했으며, 단일 타이틀이 기술 채택과 시장 진화에 미칠 수 있는 심오한 영향을 강조합니다.

젠슨 황은 코딩을 재정의하며, 사양 및 아키텍처 정의가 프로그래밍의 주요 형태가 될 미래를 envision합니다. 그는 이러한 변화가 프로그래밍을 할 수 있는 사람들의 수를 오늘날 추정되는 3천만 명에서 잠재적으로 10억 명으로 엄청나게 확장시킬 것이라고 믿습니다.

이러한 미래에는 목수나 회계사와 같은 전문가들이 AI의 도움을 받아 건축가 역할을 할 수 있게 될 것입니다. 그들은 기존 코드를 작성할 필요 없이 컴퓨터에 무엇을 만들지 효과적으로 지시하며 컴퓨터에 대한 사양을 설명할 것입니다.

AI를 통한 프로그래밍의 민주화는 다양한 직업 분야에서 새로운 수준의 혁신과 효율성을 열어줄 것이며, 개인이 컴퓨팅 파워와 상호 작용하고 활용하는 방식을 변화시킬 것입니다.

젠슨 황은 AI에 능숙한 후보자를 선호한다고 명시적으로 밝혔습니다. 그는 AI에 대한 이해가 전혀 없는 신입 대학 졸업자보다 AI 사용에 능숙한 신입 대학 졸업자를 선택할 것입니다.

이러한 논리는 공급망 관리에서 법률 역할에 이르기까지 NVIDIA의 모든 부서에 적용됩니다. 황은 AI 숙련도가 회사의 미래를 탐색하는 데 필수적인 근본적인 기술이 되고 있다고 믿습니다.

AI 전문성에 대한 이러한 초점은 NVIDIA가 조직 전체에 AI 기능을 내장하려는 의지를 반영합니다. 회사는 모든 운영 측면에서 효율성과 혁신을 추진하기 위해 AI 도구를 활용할 수 있는 인재를 찾고 있습니다.

그의 개인적인 삶과 경력은 이러한 믿음을 예시하며, 초인적인 재능을 조율하는 데는 개인적인 지성뿐만 아니라 기능적인 리더십이 필요함을 보여줍니다. 고도로 지능적인 개인을 하나로 묶고 지시하는 능력이 핵심입니다.

황의 관점에서 성공은 다른 사람들이 기술적으로 더 교육받았거나 본질적으로 더 똑똑할 수 있더라도 달성할 수 있습니다. 이는 비전, 리더십, 효과적인 시스템을 구축하는 능력에 달려 있습니다.

젠슨 황은 인류에게 상당한 발전을 기대하며 미래에 대한 낙관적인 비전을 제시했습니다. 그는 기술 발전으로 질병의 종식과 오염의 급격한 감소를 합리적으로 기대할 수 있다고 믿습니다.

황은 또한 개인적인 디지털 의식을 지닌 휴머노이드가 탐사를 위해 우주로 보내질 수 있는 미래를 envision합니다. 그의 낙관론은 인간의 친절함과 다른 사람들을 돕고자 하는 타고난 욕구에 대한 깊은 믿음에서 비롯됩니다.