젠슨 황: AI 경고론 '지나치게 과장되었다'

엔비디아 CEO 젠슨 황은 인공지능을 물리적 생산을 필요로 하는 산업 혁명으로 정의하며, 에너지, 데이터 센터, 모델, 애플리케이션, 인프라의 다섯 가지 계층으로 분류합니다.

황은 애플리케이션 계층이 국가적 이점을 위해 가장 중요하다고 강조하며, AI의 실제적인 이점을 이끌어낸다고 말합니다.

그는 AI가 단순한 소프트웨어 혁신이 아니라 전통 산업과 유사하게 물리적 자원과 에너지를 요구하는 산업 제조 공정으로 간주되어야 한다고 주장합니다.

"음, 우선, 이것은 새로운 산업 혁명입니다. 그리고 이 산업 혁명, 이 산업은 생산을 필요로 합니다."

"그리고 그 위에 있는 것이 가장"

황은 AI가 직업의 "목적"과 "업무"를 분리한다고 주장하며, 방사선학을 이러한 구분의 주요 예로 사용합니다.

그는 스캔 분석 자동화가 직업을 완전히 없애기보다는 병원 수용 능력을 증가시키고 방사선 전문의에 대한 수요를 늘린다고 주장합니다.

그는 AI가 일자리를 파괴할 것이라는 믿음을 "근본적으로 틀렸으며" "유해한 신화"라고 지칭하며, 기술이 인간의 능력을 어떻게 향상시키는지 간과한다고 말합니다.

"방사선 전문의의 목적은 변하지 않습니다. 스캔을 연구하는 작업은 자동화되었습니다. 결과적으로, 방사선 전문의는 실제로 더 많은 일을 할 수 있고, 더 많은 사례를 처리할 수 있습니다... 선순환이 일어나고 있습니다."

인터뷰어는 미국인의 79%가 AI가 총 일자리 수를 줄일 것이라고 우려하는 대중적 불안감을 지적하며, 이는 과거 아웃소싱 역학과 대비됩니다.

황은 자신을 "책임감 있는 낙관론자"로 포지셔닝하며, 종말론적 예측에 굴복하기보다는 효용성과 생산성을 향상시키는 데 우려를 집중합니다.

"저는 대량 실직에 대해 약간 회의적인 경향이 있지만, 여기서 여러분과 함께 그 주장을 펼치고 싶습니다."

황은 AI를 전통적인 컴퓨팅의 "언어 장벽"을 제거함으로써 민주화를 위한 궁극적인 도구로 봅니다. 전통 컴퓨팅은 C, C++, CUDA와 같은 특정 언어를 학습해야 했습니다.

AI는 사용자가 자연스러운 인간 언어를 사용하여 복잡한 기술과 상호 작용할 수 있도록 하여, 훨씬 더 넓은 대중에게 고급 기능을 접근 가능하게 만듭니다.

기술 활용을 위한 진입 장벽은 인류 역사상 그 어느 때보다 낮아져 전례 없는 권한을 부여합니다.

"여러분은 인류 역사상 그 어떤 기술보다 쉽게 그 기술을 통해 권한을 부여받습니다."

26,000명의 중국 학생들을 대상으로 한 연구에서 AI 도입이 숙제 점수를 향상시킨 반면, 동시에 시험 성적은 낮아진 것으로 나타나 인간 지적 능력 저하 가능성에 대한 논쟁을 불러일으켰습니다.

인터뷰어는 AI에 대한 과도한 의존으로 인해 집중력 및 지적 능력과 같은 중요한 역량이 침식되고 있는지 질문합니다.

황은 현재의 교육 맥락에서 긴 나눗셈이나 수학 구구단 암기와 같은 수동 기술의 필요성을 일축하며, 이를 덜 관련성이 있다고 봅니다.

그는 사회가 낮은 수준의 기술적 숙련도를 요구하기보다는 "시스템 사고"와 더 높은 수준의 문제 해결로 자연스럽게 전환될 것이라고 주장합니다.

"저는 그렇게 생각하지 않습니다. 저는 그렇게 생각하지 않습니다. 음, 하지만... 중요한 기술이 분명히 있을 것입니다."

폐쇄형 모델은 전통적인 소프트웨어 제품과 유사하게 상업적 및 수익 창출 목적으로 기능합니다.

오픈 웨이트 모델은 개발자에게 중요한 인프라와 제어권을 제공하여, 내부 데이터 및 도메인 전문 지식으로 AI를 미세 조정할 수 있게 합니다.

오픈 소스 모델 생태계는 중국에서 특히 활발한데, 이는 해당 산업의 기원과 인재의 유동적인 이동에 기인합니다.

"저는 세상에 폐쇄형 및 오픈 모델이 모두 필요하며, 둘 다 활발하게 유지되어야 한다고 생각합니다."

젠슨 황은 실험적 AI 모델의 안전 문제가 근본적으로 공학적 문제이며, 극복할 수 없는 실존적 위협이 아니라고 주장합니다.

그는 연구실이 실제 세상에 피해를 일으킬 모델을 통제할 방법이 없다고 인정한다면, 인류에게 해를 끼치는 것을 막기 위해 해당 연구실을 폐쇄해야 한다고 말합니다.

황은 AI로 인한 피해에 대한 책임이 민사 및 형사 영역에 걸쳐 막대할 수 있다고 경고합니다.

"그리고 만약 그렇다면, 그것이 문제입니다. 그것은 공학만큼 간단합니다. 그리고 만약 이제 대안이, 대안은 음, 만약 그들이 대안을 말한다면, 즉 우리 실험을 통제할 방법이 없다는 것입니다. 우리가 AI 모델을 테스트할 때, 그냥 유출되어 세상을 손상시킬 방법이 없다고 말한다면, 저는 대답은 우리가 연구실을 폐쇄해야 한다는 것입니다. 왜냐하면 인류에 대한 비용, 손상이 너무 크기 때문입니다."

그는 All-In 팟캐스트 출연 중 새로운 규제의 필요성에 대해 회의적인 입장을 표명했습니다.

황은 규제를 요구하는 경고론적 추진이 진보를 억압하고 경쟁자에게 이익을 주기 위한 잠재적인 정치적 또는 전략적 "사기극"이라고 일축했습니다.

"그리고 음, 그들은 그것이 일어나는 것을 원치 않는 많은 사람들의 손에 놀아나고 있을 뿐입니다. 그리고 그것은 정치인일 수도 있고 중국일 수도 있습니다. 우리는 그런 일이 일어나게 하지 않을 것입니다. 그것은 사기극입니다."

젠슨 황은 안전이 가장 중요하다고 동의하지만, 기업들이 더 많은 규제를 요구하면서 동시에 반독점 또는 책임 완화를 요청하는 이유에 의문을 제기합니다.

그는 AI 연구실이 모델에 대한 통제력을 잃고 있다고 느낀다면, 완전히 검증될 때까지 제품 출하를 중단하는 것이 간단한 해결책이라고 주장합니다.

황은 AI가 최근 학술 연구에서 수천억 달러 가치의 유용한 제품으로 전환되면서 판돈이 바뀌었다고 지적합니다.

그는 새로운 규제 감독을 요구하면서 기존 법적 책임을 완화하려는 모순된 행동을 비판합니다.

"규제를 요구할 때, 현재의 규제 완화를 요구하지 마십시오. 그것은 저에게는 말이 되지 않습니다."

주요 우려는 이 모델들이 감시되거나 테스트되고 있다는 것을 알 때 다른 행동을 보일 수 있어 진정한 평가가 어렵다는 것입니다.

황은 연구실이 이 문제에 대해 더 많은 통찰력을 가지고 있음을 인정하지만, 논리적인 대응은 역량 향상에서 더 엄격한 평가 방법 개발로 R&D 자원을 전환하는 것이라고 제안합니다.

"가장 중요하고 간과된 문제는 모델이 너무 상황 인식을 하게 되어, 감시되거나 통제되지 않는다고 믿을 때 모델을 평가할 능력을 잃어가고 있다는 것입니다."

젠슨 황은 광범위한 입법 프레임워크를 추구하기보다는 AI 제품을 외부 세계로부터 격리하는 것과 같은 실제적인 공학적 과제 해결을 우선시했습니다.

그는 AI 개발의 현재 상태를 고려할 때 광범위한 새로운 규제가 시기상조이거나 불필요하다고 보고, 그 필요성을 일축합니다.

황은 AI 안전에 대한 논의를 지배하는 가상의 종말론적 시나리오를 다루는 것보다 알려진 실용적인 공학적 문제를 해결하는 것이 더 중요하다고 제안합니다.

그는 제품이 완전히 준비되고 검증될 때까지 외부 세계와 상호 작용해서는 안 된다고 강조합니다.

"더 많은 규제를 만들기 전에, 우리가 알고 있는 실질적인 문제들을 해결할 수 있을까요? 즉, 제품이 외부 세계와 상호 작용할 준비가 될 때까지 외부 세계와 상호 작용하도록 허용해서는 안 됩니다."

젠슨 황은 "추론 시간 스케일링"을 초기 훈련 스케일링과 구별되는 주요 돌파구로 강조합니다.

그는 모델이 순전히 원시적인 컴퓨팅 능력뿐만 아니라 반복과 탐색을 통해 개선된다고 명확히 합니다.

황은 도구 사용이 AI 생산성의 실제 동력이며, 이는 갑작스러운 종말론적 소프트웨어 사건이 아니라 지속적인 개선 과정이라고 제안합니다.

"두 번째 스케일링 법칙은 테스트 시간 스케일링 추론입니다. 더 많이 반복하고, 더 많이 탐색하고, 더 많이 탐구할수록 더 나은 답변을 발견할 수 있습니다. 추론 시간 스케일링입니다."

그는 AI의 진보를 마법처럼 순간적인 상변화가 아닌 층별 진화로 보며, 점진적인 발전을 강조합니다.

황은 현재 AI 능력을 20년간 인터넷 접근의 "마법 같은" 진화에 비유하며, 기술 발전의 점진적 특성을 강조합니다.

"정의는 인식을 통해 세상을 인지하고 이해하는 것입니다. 둘째는 추론입니다. 추론은 어떤 시나리오든 더 기본적인 부분으로 분해할 수 있는 능력입니다. 셋째는 목표를 향한 계획입니다."

젠슨 황은 AI가 본질적으로 공학적 통제를 벗어난다는 생각을 일축하며, 엔지니어들이 근본적으로 공학 작업을 하고 있다고 주장합니다.

그는 연구실이 현재 순수한 역량 개발에서 생산 공학으로 초점을 전환하는 과도기에 있다고 주장합니다.

황은 역사적으로 기업들이 AI의 최근 상업화 이전에는 그러한 엄격한 조사가 필요하지 않았기 때문에 광범위한 테스트 및 평가를 위한 자원이 부족했다고 주장합니다.

"결국 엔지니어들은 공학 작업을 하고 있습니다. 우리가 해결책을 발견했을 때 되돌아보면 많은 사람들에게 상당히 명백하고 평범합니다."

젠슨 황은 자동차 안전 기능인 ABS와 에어백을 기술 가속화에 대한 비유로 사용하여 안전과 정렬을 AI 연구 개발의 본질적인 부분으로 통합합니다.

그는 안전하지 않은 기술은 정의상 "발전하는" 기술로 간주될 수 없다고 주장하며, 역량과 안전 사이의 이분법적 선택을 거부합니다.

황은 검증을 R&D의 핵심 구성 요소로 지칭하며, 안전 고려 사항이 개발 프로세스 시작부터 내장되어 있다고 강조합니다.

"제가 AI 기술을 가속화해야 한다고 말할 때, 사람들은 어떤 이유에서인지 안전이 그 일부가 아니라고 생각합니다. 안전은 그 일부입니다. 정렬도 그 일부입니다. 평가도 그 일부입니다."

엔비디아의 컴퓨팅 인프라의 유효 수명은 지속적인 알고리즘 개선과 소프트웨어 업데이트를 통해 크게 연장됩니다.

황은 엔비디아의 컴퓨팅을 항공기에 비유합니다. 항공기는 범용적이고 대체 가능하며 내구성 있는 자산으로, 그들의 장기적 가치를 반영합니다.

이 접근 방식은 이러한 오래 지속되는 자산의 담보적 특성으로 인해 자본 비용이 낮아질 것으로 예측합니다.

"우리 아키텍처는 소프트웨어 기반이며, 우리는 새로운 알고리즘으로 소프트웨어를 끊임없이 개선하여 새로운 워크로드, 새로운 모델을 우리의 구형 하드웨어에서 실행합니다. 결과적으로 우리 컴퓨팅의 유효 수명은 훨씬 더 깁니다."

젠슨 황은 AI 시장에서 수요와 공급이 언젠가 역전될 것임을 인정하며, 이는 시장 사이클의 자연스러운 측면입니다.

그러나 그는 향후 2~3년 내에 시장 붕괴가 일어날 것이라고 믿지 않으며, AI 거품 붕괴에 대한 즉각적인 두려움을 일축합니다.

"언젠가 수요와 공급은 다시 역전될 것이고, 그것이 시장의 본성입니다. 내년에는 일어나지 않을 것입니다. 다음 2~3년 안에도 일어나지 않을 것입니다. 저는 그렇게 믿지 않습니다."

그는 AI가 잠재력을 최대한 발휘하려면 소매업에서 의료에 이르기까지 모든 산업에 이점을 주어야 한다고 강조합니다.

황은 기술 가능자가 오직 사회적 이점의 최상위 계층을 지원하기 위해 존재한다고 주장하며, AI를 재앙의 원천이 아닌 기회로 보는 데 집중할 것을 촉구합니다.

그는 지나치게 부정적인 예측이 AI의 긍정적인 변혁적 힘에서 주의를 돌린다고 믿습니다.

"모든 수사와 모든 경고, 모든 종말론, 모든 예측이 사람들을 겁주고 있다는 점을 주목하십시오. 그것이 사실 저의 가장 큰 두려움입니다."

그는 이러한 우선순위를 유지하기 위한 공식적인 정부 요구사항을 환영하며, 이는 이미 회사 내 표준 관행이라고 언급합니다.

황은 AI 산업을 글로벌 경쟁 속에서 국가 전략적 이점을 보장하면서 번성하는 다계층 생태계로 봅니다.

"우리 제품의 모든 세대는 미국 기업에 먼저 제공됩니다."

그는 정부 보조금보다는 시장의 힘이 배터리 과학, 태양열, 핵융합과 같은 중요한 분야에 역사적인 투자를 이끌고 있다고 제안합니다.

황은 "수술" 비유를 사용하여 전환을 설명합니다. 즉, 지속 가능한 미래를 가능하게 할 인프라를 구축하기 위해서는 초기 화석 연료 의존이 필요하다는 것입니다.

그는 AI를 친환경 에너지 개발을 장려함으로써 장기적인 환경 목표를 달성할 최고의 기회로 봅니다.

"지속 가능한 미래를 원한다면 AI에 투자하십시오. 그것이 우리가 그곳에 도달할 수 있는 최고의 기회입니다."