젠슨 황, AI 안전과 '둠머' 논쟁에 대해

엔비디아 CEO 젠슨 황은 안전과 혁신이 잘못된 선택이라는 생각을 부정하며 기업들이 신속하게 혁신하고 안전하게 이끌 수 있다고 말했습니다. 그는 안전이 가장 중요하며 모든 개발자가 진지하게 받아들여야 한다고 강조했습니다. 황은 미국의 리더십이 빠른 실행과 안전의 균형을 맞춰 AI의 발전과 책임을 모두 보장할 수 있다고 믿습니다.

이러한 변화는 다른 운영적 엄격함을 요구하며, 잠재적으로 내부 통제 문제로 이어질 수 있습니다. 그는 일부 연구실에서 현재 겪고 있는 어려움이 이러한 특정 전환기에서 비롯된 것이며, 그들이 프로세스를 조정하고 있음을 암시했습니다.

젠슨 황은 인류 멸종 수준의 AI 사태 예측을 근거 없고 무책임한 공포 조장으로 일축했습니다. 그는 '10% 멸종'과 같은 위험을 수량화하는 것과 같은 특정 실존적 주장에 대한 과학적 근거가 없다고 주장했습니다. 황은 잘 교육받은 연구자들이 자신의 자격을 이용하여 종말을 예측하는 것을 비판하며, 그러한 말과 예측의 합류를 '놀랍고 문제가 되는' 일이라고 말했습니다.

엔비디아는 사내 정치적 담론을 금지하고 있으며, 황은 회사가 초당적이라고 강조했습니다. 그는 정치적 논의는 회사 외부에서 이루어져야 한다고 말했습니다. 엔비디아의 초점은 집권 정치 행정부와 관계없이 기술 혁신에 집중함으로써 미국이 성공하도록 돕는 데 있습니다.

황은 AI 규제가 실제 문제를 다루어야 하며, 대부분의 문제는 막대한 컴퓨팅 자원 때문에 선두 연구실에서 발생한다고 주장했습니다. 그는 스타트업과 개인은 일반적으로 시스템적 위험을 초래할 규모를 갖추지 못한다고 언급했습니다. 황은 연구실이 실험적 연구에서 예측 가능한 엔지니어링 프로세스로 전환해야 할 필요성을 강조했으며, 사고 재발을 방지하기 위한 근본 원인 분석의 중요성을 강조했습니다.

그는 그러한 연구실이 분석 후 사고를 이해하거나 통제할 수 없다고 인정할 가능성은 낮다고 시사했습니다. 황은 이러한 연구실이 개선된 테스트, 샌드박싱 및 모니터링과 같은 표준 절차를 통해 내부 엔지니어링 실패를 해결할 충분한 재능과 도구를 가지고 있다고 주장했습니다.

그는 RSI가 생산성을 높이고 모델 성능을 향상시키는 논리적인 방법이라고 설명했습니다. 황은 'RSI'라는 용어가 시스템이 통제 불능 상태로 치닫는다는 것을 암시하는 무기화되었다고 비판하며, 평가 및 테스트 프로세스가 제품 단계에서 RSI를 자연스럽게 제약한다고 강조했습니다.

도널드 트럼프는 AI 공포 조장이 중국과 미국의 진전을 늦추려는 정치적 반대자들에게 이득이 되는 음모이자 '사기'라고 주장했습니다. 그는 AI 개발이 주에 이득을 주고 부를 창출하며, '향후 20-25년의 석유'가 될 것이라고 주장했습니다. 트럼프는 데이터 센터가 경제에 큰 이점을 제공하고 국가 번영을 추진한다고 강조했습니다.

도널드 트럼프는 '로봇이 세상을 장악하지 않을 것'이며 AI가 세상을 통제하지 않을 것이라고 자신 있게 말하며, 전체 실존적 위험 내러티브를 '사기'라고 불렀습니다. 그는 MIT 교수였던 삼촌을 기술 이해에 대한 개인적인 '유전적 강점'의 원천으로 언급했습니다. 트럼프는 AI 개발에서 산업 성장을 멈추기보다는 신중한 행동의 중요성을 강조했습니다.

모든 산업에서 지배력을 가질 것입니다. 트럼프는 또한 이전 행정부의 투자 수치를 비판하며, 현재 AI 개발의 상당한 성장과 대비시켰습니다.

젠슨 황은 AI 안전 내러티브가 국가 안보 문제에서 더 넓은 일반 안전 문제로 변화하고 있음을 관찰했습니다. 그는 AI 안전을 보장하는 것이 AI를 구축하는 연구실이 그들의 기술을 통제하고 있음을 확인하는 것에서 시작된다고 제안했습니다. 황은 금융 감사와 유사한 독립적인 제3자 평가자를 옹호하여 엄격한 감독을 보장해야 한다고 주장했습니다. 그는 이러한 비범한 기술이 대중의 신뢰를 유지하고 오용을 방지하기 위해 비범한 안전 기준을 필요로 한다고 강조했습니다.

여기에는 토지, 전력 및 시설 확보와 같은 인프라에 대한 직접적인 참여가 포함됩니다. 황은 공급망 확장을 위해 TSMC, Corning 및 Lumemum과 같은 파트너와의 엔비디아의 장기적인 협력에 대해 자세히 설명했습니다. 이 회사는 순수한 상류 제조에서 포괄적인 하류 애플리케이션 지원 제공으로 전환하여 업계 전반의 뛰어난 기업의 성장을 가능하게 하는 것을 목표로 합니다.

이 회사의 철학은 광범위한 혁신을 촉진하기 위해 '필요한 만큼 높이 올라가되 가능한 한 낮게 내려가는 것'입니다. 엔비디아는 cuDNN 및 Megatron과 같은 기본 기술을 제공하여 '천 개의 꽃을 피우게' 함으로써 애플리케이션 개발자와 직접 경쟁하기보다는 모든 사람이 성공하도록 돕는 것을 목표로 합니다.

젠슨 황은 새로운 지역 클라우드 제공업체(NCP)의 초기 고객이 종종 하이퍼스케일러였으며, 이들은 연간 계획 주기 때문에 시장 변동성으로 어려움을 겪는다고 관찰했습니다. 그는 시장이 빠르게 변화하기 때문에 하이퍼스케일러의 계획이 자주 부정확하다고 지적했습니다. 대조적으로, 지역 클라우드는 토지와 전력을 확보하는 데 더 민첩하여 유연한 대안을 제공합니다. 황은 정부가 AI 인프라를 전략적 자산으로 점점 더 많이 보고 있으며, 엔비디아가 시장 경쟁과 역동성을 강화하기 위해 소규모 제공업체를 지원한다고 강조했습니다.

황은 엔비디아와 머스크 간의 상호 기술 논의를 확인했습니다. 그는 또한 엔비디아가 이러한 대규모 제조 노력에 중요한 프로세스 및 메모리 기술에 대한 광범위한 전문 지식을 보유하고 있음을 강조했습니다.

그는 AI가 인간을 초월하는 정밀도와 안전성으로 운전과 같은 특정 작업을 수행하는 자율 주행차와 같은 예를 들었습니다. 황은 또한 AI가 전문화된 기능에서 인간 수준 또는 인간을 초월하는 성능을 달성함으로써 초지능적 능력을 보여주는 또 다른 영역으로 단백질 합성을 언급했습니다.