규제 강화 속 AI 내부 고발자 주장에 의문 제기

제이콥 콕슨의 바이럴 게시물은 24시간도 안 되어 1억 7천 1백만 조회수를 기록했으며, 브라이언 탈레비(Bryan Talebi)와 같은 업계 전문가들의 즉각적인 조사를 받았습니다. 탈레비는 이 수치가 일반적인 유기적 도달 범위와 일치하지 않는다고 지적했습니다. 이 계정은 게시물 전에는 기록이나 팔로워가 없었음에도 불구하고, 게시된 지 15분 이내에 주요 'AI 종말론자' 단체들로부터 상당한 홍보를 받았습니다.

언론에서 '내부 고발자'로 불렸음에도 불구하고, 제이콥 콕슨은 인류 멸망 가능성이 10%라는 주장을 뒷받침할 구체적인 증거나 데이터를 제시하지 않았습니다. 콕슨은 앤트로픽에서 6주에서 3개월이라는 짧은 기간 동안 일했으며, 이는 회사의 기술 복잡성을 이해하기에는 불충분한 기간으로 간주됩니다. 그의 배경에는 선전 연구와 관련이 있다는 의혹을 받는 잘 알려진 비정부기구인 뉴스피크(Newspeak)와의 연루도 포함됩니다.

브라이언 탈레비가 전한 바에 따르면, 데이비드 색스(David Sacks)는 세 개의 잘 알려진 단체(인코드 AI, AI 정책 네트워크, AI 퓨처스 프로젝트)가 초기 15분 이내에 콕슨의 트윗을 빠르게 증폭시켰다고 밝혔습니다. 이 단체들은 엄격한 연방 AI 규제를 적극적으로 옹호합니다. 세 단체 모두 앤트로픽의 시리즈 A 펀딩 라운드의 공동 리드이기도 한 주요 기부자 얀 탈론(Yan Talon)으로부터 자금을 지원받는 것으로 알려져, 잠재적인 이해 상충에 대한 의문을 제기합니다.

효율적 이타주의(EA) 단체들은 수십억 달러를 규제 장악에 유리한 환경을 조성하는 데 사용했다는 비난을 받고 있습니다. 바이든 행정부는 벤처 캐피털리스트들에게 AI 스타트업에 대한 투자를 중단하도록 압력을 가해, 앤트로픽과 오픈AI(OpenAI)와 같은 소수의 통제된 기업으로 시장을 제한하려 했다고 합니다. 이러한 노력은 오픈소스 AI의 기본 수학적 모델을 불법화하여 클로즈드소스 모델의 지배력을 더욱 공고히 하는 것을 목표로 한다고 알려져 있습니다.

미국 선거 이후, 수많은 전 바이든 행정부 관리들이 오픈AI와 앤트로픽의 고위직으로 이동했으며, 여기에는 척 슈머(Chuck Schumer) 의원의 딸이 오픈AI로 간 것도 포함됩니다. 브라이언 탈레비는 이러한 '회전문' 현상을 이 네트워크들이 오픈소스 경쟁을 억압하여 클로즈드소스 모델의 시장 점유율을 보호하려는 메커니즘으로 강조합니다.

베브 터너(Bev Turner)는 앤트로픽 CEO 다리오 아모데이(Dario Amodei)가 제이콥 콕슨의 주장을 공개적으로 인정하고 규제 필요성에 동의한 것에 놀라움을 표했습니다. 이는 일반적인 기업 위기 관리와는 확연히 다른 모습입니다. 이러한 비정상적인 반응은 경쟁을 억압하기 위한 잠재적인 '규제 장악' 전술로 해석됩니다. 특히 앤트로픽의 임박한 기업 공개(IPO)를 고려할 때, 이러한 인정의 시기가 정밀하게 조사되고 있습니다.

대형 기술 기업들은 종종 과도한 규제를 새로운 시장 진입자를 퇴출시키고 AI 부문에서 독점적 지위를 유지하는 전술로 사용합니다. 오픈소스 개발자들은 일반적으로 막대한 규제 구조를 준수하는 데 필요한 재정적, 물류적 자원이 부족하여 상당한 진입 장벽이 됩니다. 이 전략은 AI 개발의 원래 비영리, 오픈소스 비전과는 근본적으로 다른 모습을 보여줍니다.

중국과 러시아는 AI 경쟁에서의 우위가 다음 세기 또는 심지어 천년 동안의 글로벌 리더십을 결정할 것이라는 믿음을 명시적으로 표명했습니다. 브라이언 탈레비는 현재의 AI 규제 압력을 과거 에너지 및 데이터 센터에 대한 캠페인과 비교하며, 데이터 센터의 물 소비량에 대한 주장이 엄청나게 과장되었다고 지적합니다. 이 주장은 미국의 AI 기술 우위를 약화시킬 수 있는 특이한 동맹이 형성되고 있음을 시사합니다.

그는 중국과의 장기적인 AI 경쟁에서 미국의 우위를 유지하는 것의 중요성을 강조합니다. 밴스는 미국의 기술 발전을 억압하지 않으면서 신중한 위험 관리를 옹호하며, 의도치 않게 외국 경쟁자들에게 이익을 줄 수 있는 조치에 대해 경고합니다.

AI 개발자들은 지난 2년 동안 네 차례나 세계 멸망을 예측했지만, 이러한 재앙적인 결과는 현실화되지 않았습니다. 이러한 예측과는 반대로, 일자리는 실제로 증가했으며, AI 발전으로 인해 세계가 끝나지 않았습니다. 이러한 예측의 지속적인 실패는 '종말론자' 주장의 진정성과 동기에 대한 회의론으로 이어집니다.

AI 기업과 감사자 간의 근친적인 관계, 특히 Better BR과 Anthropic에 대한 우려가 제기되었습니다. Better BR은 Anthropic과 동일한 투자자를 공유하며, 많은 Anthropic 연구원들이 Better BR로 이직한 것으로 알려졌습니다. 브라이언 탈레비는 이러한 구조를 '자신을 핥는 아이스크림 콘(self-licking ice cream cone)'이라고 묘사하며, 규제 기관이 감독을 맡은 회사에 재정적으로 투자되어 있다는 윤리적 딜레마를 강조했습니다. 이러한 상황은 편향된 감독이라는 인식을 만들어 AI 산업 내 공정한 경쟁과 객관적인 규제를 약화시킬 수 있습니다. 이러한 기업들 간의 얽힌 재정적 이해관계와 인력 이동은 독립적인 감독의 부족을 시사하며, 시장의 공정성과 규제 무결성에 상당한 위험 신호를 보내고 있습니다.

역사적으로 기술 산업은 자유주의 성향이 강했으며, 97%가 그러한 이념을 가졌습니다. 그러나 상당수의 기술 리더들이 반기술, 반기업가 정신, 반자본주의 정책으로 인식하는 것 때문에 민주당을 이탈했습니다. 일론 머스크, 마크 앤드리슨(Marc Andreessen), 바비 케네디(Bobby Kennedy)와 같은 인물들이 이러한 변화의 예시로 언급되며, 미국 민주 사회주의자들과 같은 분파와의 이념적 마찰을 강조합니다.

핵심 AI 시스템에서 인간 통제를 유지하고, 인간이 최종 의사결정 권한을 보유하며, AI가 자율적으로 무기를 배치하는 것을 방지하기 위한 기술적 해결책이 존재합니다. 여기에는 '인간 개입(human-in-the-loop)' 시스템, 강력한 AI 사이버 보안, 양자 보안 조치 등이 포함됩니다. 브라이언 탈레비는 인간 통제 시스템과 완전 자율 무기를 구분하며, AI 군사 적용을 규제하고 의도하지 않은 확대를 방지하기 위한 국제 군비 통제 조약의 필요성을 강조합니다.

베브 터너는 현재 AI 중심의 산업 혁명이 이전의 산업 혁명과 달리 소수의 손에 부를 집중시키는지, 아니면 모든 사람을 풍요롭게 하는지에 대해 질문합니다. 그녀는 이를 모든 사람을 더 부유하게 만들었다고 믿는 처음 세 번의 산업 혁명과 대조합니다. 브라이언 탈레비는 젊은 기업가들이 AI를 활용하여 새로운 사업과 기회를 창출한 성공 사례를 인용하며 반박합니다. 이 논쟁은 소수의 기술 리더들 사이에 부가 집중되는 것에 대한 우려와 AI가 더 넓은 혁신과 일자리 창출을 이끌 잠재력 사이의 긴장을 강조합니다. 전통적인 사무실 및 공장 노동에서 디지털 및 AI 기반 역할로의 전환은 이해 관계자들이 광범위한 AI 채택의 장기적인 경제적 영향을 고려함에 따라 이 논의의 핵심 주제입니다.

그는 민주당이 AI 안전 문제를 이용하여 트럼프 행정부가 국가를 안전하게 지킬 수 없다고 주장할 것이며, 코로나19 및 기후 변화와 같은 과거 위기와 유사점을 그릴 것이라고 예측합니다. 그는 근본적인 목표가 '하늘이 무너진다'는 공포를 조장하고 한 정당을 유일한 보호자로 내세우는 서사를 추진하는 것이라고 주장하는 한편, AI에 대한 개방 시장 접근 방식은 중국에 기술적 우위를 내주지 않기 위해 중요하다고 강조합니다.

브라이언 탈레비는 6년 동안 세계경제포럼에 참석하면서 극단적인 글로벌 의제에 대한 논의를 목격했다고 주장합니다. 그는 인구를 10억 명으로 줄이고 육류 소비를 억제하려는 대화가 있었으며, 심지어 진드기 매개 질병을 사용하여 이를 달성할 수도 있다고 제안했습니다. '아무것도 소유하지 않고 행복할 것'이라는 생각과 '벌레를 먹어야 할 것'이라는 주장을 포함한 이러한 주장은 포럼 내에서 논의된 실제 의제 항목으로 제시되며, 이것이 합법적인 미래 계획을 나타내는지 아니면 참석자들 사이에서 유포되는 단순한 음모론인지에 대한 논쟁을 불러일으킵니다.