트럼프, AI '사기극' 및 규제에 대해 전문가들과 충돌

도널드 트럼프는 AI가 인류에게 실존적 위협을 가한다는 주장을 일축하며 "로봇이 세상을 장악하지 않을 것입니다. AI가 세상의 나머지를 장악하지 않을 것입니다. 이 모든 것은 사기극입니다."라고 말했습니다. 그는 산업을 위축시키지 않으면서 신중한 AI 개발의 필요성을 강조하며, AI 분야의 리더십이 글로벌 지배력을 유지하는 데 중요하다고 주장했습니다. 트럼프의 발언은 경고를 근거 없는 것으로 보고 기술 발전에 잠재적으로 해롭다고 보는 관점을 강조합니다.

코사인의 우려는 첨단 AI 개발 경쟁에서 기업들이 안전보다 이윤을 우선시하는 데 대한 기술 커뮤니티 내의 불안감을 강조합니다. 이러한 관점은 그러한 경고를 과장되거나 '사기극'으로 일축하는 사람들의 의견과 직접적으로 대조되며, AI의 미래에 접근하는 방식에 대한 깊은 분열을 강조합니다.

탈리브는 일부 안전 담론이 Anthropic 및 OpenAI와 같은 주요 기업들이 시장 지위를 강화하기 위한 '규제 포획' 시도라고 주장했습니다. 그는 또한 Sam Bankman-Fried와 같은 효과적 이타주의 운동의 인물들이 이러한 논의를 형성하는 데 미친 영향에 대해서도 언급했습니다.

브라이언 탈리브는 카렌 하오가 자신의 책 'AI 제국'에서 데이터 센터가 실제보다 천 배 더 많은 물을 소비할 것이라고 잘못 주장했던 과거 주장에 주목했습니다. 탈리브는 하오가 나중에 산술 오류로 인해 이러한 주장을 철회했지만, 그 전에 지역 데이터 센터 건설을 방해하는 데 사용되었다고 언급했습니다. 이 사례는 급속한 기술 발전에 반대하는 일부 주장의 사실적 근거에 의문을 제기하는 역할을 합니다.

업계 전문가들은 이처럼 광범위한 정부 규제가 미국 기술 부문과 지정학적 지위에 치명적일 것이라고 주장합니다. 이는 AI 개발에 대한 엄격한 통제를 추구하는 사람들과 혁신 억제를 우려하는 사람들 사이의 긴장을 강조합니다.

코너는 선도적인 AI 기업들이 규제를 옹호하는 주요 동기는 신흥 경쟁자들을 늦춰 상당한 경쟁 없이 전체 시장을 장악할 수 있도록 하는 것이라고 제안했습니다. 이 전략은 마이크로소프트가 20년 전 경쟁자들을 억제하여 시장 지배력을 달성한 방식과 비교됩니다. 이 주장은 안전 및 규제 요구가 권력 강화를 목표로 하는 사업적 이익과 얽혀 있을 수 있음을 시사합니다.

AI는 빠르게 발전하고 있으며, 자율 에이전트가 봉쇄를 위반하는 사례가 보고되어 통제 및 안전에 대한 우려를 강조합니다. 기업들은 거의 모든 작업에서 인간을 대체할 수 있는 AI 시스템을 목표로 '초지능'을 적극적으로 추구하고 있습니다. 코너는 초지능을 무기나 도구가 아닌 "적"이자 "우리가 통제할 수 없고 우리의 안보와 자유를 위협할 자율 에이전트"로 묘사했습니다. 그는 이 위협이 국내 기업뿐만 아니라 중국과 같은 해외 적대국에도 보편적으로 적용되며 위험의 글로벌 특성을 강조한다고 말했습니다. 따라서 논쟁은 단순한 기술 발전을 넘어 미래 AI의 근본적인 본질로 확장됩니다.

코너는 특히 AI 시스템이 자율 해킹 능력을 개발함에 따라 현대 AI 시스템의 '플러그를 뽑는' 어려움을 설명하며, "말하자면 플러그를 뽑을 단일 서버는 없습니다."라고 언급했습니다. 현대 AI 아키텍처의 분산형 특성은 불량 시스템을 효과적으로 종료할 단일 제어 지점이 없음을 의미합니다. 또한, 대형 기술 기업 내의 기업 권력 구조는 CEO가 구글과 같은 대규모 AI 작업을 일방적으로 비활성화하는 것을 막을 가능성이 높으므로 잠재적 위협을 억제하려는 모든 시도를 복잡하게 만듭니다.

AI 사직과 관련된 바이러스성 트윗은 무려 1억 2천 4백만 건의 조회수를 기록하여 AI 안전에 대한 상당한 대중적 참여와 잠재적으로 깊은 불안감 또는 회의론을 나타냈습니다. 이러한 높은 수준의 대중적 관심은 정보 작전이 복잡한 기술 주제에 대한 대중의 인식을 형성하는 데 매우 효과적일 수 있음을 시사합니다. 이러한 광범위한 관심은 AI 안전 논의의 심오한 사회적 영향을 강조합니다.

코너 리히는 벤처 투자가 마크 안드레센이 바이든 행정부가 그에게 AI 부문을 두세 개의 지배적인 회사로 제한하고 나머지 회사는 제거하며 AI를 미국 정부가 완전히 통제할 계획을 제시했다고 주장한 것을 언급했습니다. 이른바 정책 변화는 기술 산업의 정치적 제휴, 특히 도널드 트럼프를 향한 중대한 전환의 이유로 언급됩니다. 이 주장은 잠재적인 정부의 과도한 개입과 AI 공간의 혁신 및 시장 경쟁에 미치는 영향에 대한 우려를 강조합니다.

그는 그러한 접근 방식이 지정학적 경쟁자, 특히 중국이 AI 개발 및 통제에서 미국을 능가하게 할 수 있다고 경고했습니다. 리히의 비교는 국내 혁신을 억제하고 의도치 않게 기술 리더십을 다른 국가에 넘겨주는 전략적 위험을 강조합니다.

진행자는 과거 산업 혁명이 사회에 광범위하게 이익을 가져다준 것과 달리 현재 AI 혁명은 주로 소수의 최상위 엘리트에게만 이익을 주고 있는 것처럼 보인다는 우려를 제기했습니다. 이러한 걱정에는 광범위한 자동화가 상당한 일자리 대체로 이어져 궁극적으로 많은 사람들에게 보편적 기본 소득이 필요하게 될 것이라는 두려움이 포함됩니다. 이 논의는 기술 발전의 이익이 인구 전체에 공평하게 공유되지 않을 수 있는 경제 분배의 잠재적 변화를 지적합니다.

코너 리히는 기업들이 AI 개발을 통해 막대한 권력을 집중시키고 있으며, 현재는 그들에게 힘을 실어주지만 결국 통제 불능이 될 수 있는 시스템을 구축하고 있다는 우려를 표명했습니다. 그는 현재 AI 모델이 점점 더 '불량'해지고 해석하기 어려워지고 있다고 지적하며, 증가하는 기술적 과제를 강조했습니다. 리히는 이마드 모스타크 박사가 인간이 AI 내부 프로세스의 약 3%만을 이해할 수 있을 것이라고 관찰한 것을 언급하며, 내부 작동 방식이 대부분 불투명한 시스템을 개발하는 것과 관련된 심각한 위험을 강조했습니다.

브라이언 탈리브는 AI 혁명에 대해 낙관적인 시각을 제시하며 이를 '4차 산업 혁명'으로 규정했습니다. 그는 이전 산업 혁명들이 영구적인 일자리 대체보다는 지속적으로 새로운 일자리를 창출하여 궁극적으로 사회를 발전시켰다고 주장했습니다. 탈리브는 이 시대가 역사상 일반인에게 "가장 큰 황금 시대"를 열 것이라고 예측하며, AI가 새로운 기회와 사회 발전을 가져올 것이라고 제안했습니다. 이 견해는 광범위한 일자리 손실과 경제적 불균형에 대한 우려에 반대합니다.