차마스와 색스가 본 AI 거품 우려, 사이버 위험, 프랑스 소요

에피소드는 이번 주 열린 글로벌 시장 미래 관련 연례 콘퍼런스에서 나온 켄 그리핀의 발언으로 시작한다. 진행자에 따르면 그리핀은 AI가 거의 확실히 거품이라고 말했지만, 큰 경제적 전환에는 대개 거품이 동반된다는 점도 덧붙였다.

그리핀은 AI의 장기적 잠재력에 낙관적이지만, 기업들이 AI 지출을 생산성으로 전환하는 데 어려움을 겪고 있다고 우려한다. 진행자는 기업들이 앤트로픽과 오픈AI의 청구서를 보며 생산성은 어디 있느냐고 묻고 있다고 전했다.

차마스는 Ramp의 수석 이코노미스트 아라 칸갈디안과 나눈 대화를 설명했다. 그는 약 1%의 기업이 토큰 기준 AI 지출의 약 90%를 차지한다는 대략적인 계산을 올렸다고 말했다. 그에 따르면 그 90% 중 약 80%는 적자 상태의 벤처캐피털 지원 스타트업에서 나온다.

차마스는 그 순환 구조를 이렇게 설명했다. 벤처캐피털 회사는 연기금, 유한책임 투자자, 재단, 패밀리 오피스에서 자금을 모아 스타트업에 투자한다. 그중 일부는 다른 회사의 AI를 사용하는 데 쓰이고, 이를 통해 스타트업은 매출 성장을 보여주고 같은 투자자들에게서 더 많은 자금을 조달한다.

차마스에 따르면 AI가 예측 가능한 장기 수익 엔진으로 확장되려면 스타트업 생태계를 넘어서야 한다. 그는 AI 지출 1달러 중 75센트가 사실상 자기 기업 가치를 높이기 위해 돈을 돌리는 스타트업에서 나온다면 이는 구조적 문제라고 말했다.

차마스는 이를 AWS가 수익성 있는 소매 사업에 묶여 있지 않던 클라우드 컴퓨팅 초기와 비교했다. 그는 현재의 AI 패턴이 시장에 관한 확정된 사실이라기보다 구조적 우려라고 말했다.

차마스는 AI가 소수의 생태계에 지나치게 집중되어 있어 확산에 문제가 있다고 주장했다. 그는 기업들이 점점 자체 데이터센터나 가상 사설 클라우드를 구축하고 오픈소스 모델로 옮겨가고 있다고 말했다.

니케시 아로라는 전 세계적으로 컴퓨팅 자원이 매우 부족하며 자체 데이터센터를 짓는 일은 전력, 토지, 칩 공급 일정 때문에 어렵다고 지적했다. 그는 팔로알토 네트웍스가 추론에 약 10~20메가와트만 쓰고 전 세계에 수십 개의 데이터센터를 운영하지 않는다며, 결과적으로는 하이브리드 방식이 될 가능성이 크다고 말했다.

아로라는 병목이 칩보다 컴퓨팅 가용성으로 옮겨가고 있다고 말했다. 그는 수요가 끝이 없다고 보기 때문이라고 설명했다. 그는 "지금 세계의 모든 기업이 '나는 준비됐고 AI를 받아들이며 최대한 빨리 가자'고 말한다면, 우리를 만족시킬 컴퓨팅은 세상에 충분하지 않다"고 말했다.

대화는 이후 사이버 위험으로 옮겨갔다. 진행자들은 AI가 인터넷 상당 부분에 영향을 미치는 주요 취약점 두 개를 찾아냈다는 최근 발견을 언급했다. 그들은 오픈소스 프로그래밍 언어인 PHP가 워드프레스와 위키백과를 포함해 전체 웹사이트의 약 70%를 구동한다고 지적했다.

진행자들은 전통적인 은행 데이터 접근이 대개 Plaid 같은 중개업체를 거쳐 검증된 앱에 연결된 API를 통해 이뤄졌다고 설명했다. 그러나 많은 개인용 AI 에이전트는 사용자 본인의 자격 증명으로 로그인하기 때문에, 은행은 트래픽이 사용자에게서 오는지 에이전트에게서 오는지 쉽게 구분할 수 없다.

아로라는 문제가 두 부분으로 이뤄져 있다고 말했다. 하나는 웹사이트가 해킹되어, 어쩌면 PHP 취약점을 통해 발생하는 무단 접근이다. 다른 하나는 에이전트가 사람의 자격 증명을 가지고 그 사람을 대신해 행동하는 에이전트 문제다.

아로라는 핵심 쟁점이 책임이라고 말했다. 에이전트가 자격 증명을 받아 돈이 사라지면 누가 책임을 지느냐는 질문이 생긴다는 것이다.

아로라는 은행이 소액의 이의 제기 청구는 고객 서비스 비용이 금액보다 크기 때문에 그냥 감당할 수도 있으며, 은행은 자신에게 잘못이 없다는 면책 문구로 에이전트를 막으려 한다고 덧붙였다.

아로라는 기업이 이제 보안 구멍을 만드는 기술 부채를 안고 있다고 말했다. 그는 거의 모든 대기업이 이제 메타스플로잇에 상응하는 도구로 자사 방어를 직접 뚫어 보고 빈틈을 찾아 막는다고 말했다.

그는 차세대 모델이 인프라에 들어갈 더 많은 경로를 찾아낼 것이므로, 방어자는 끊임없는 패치가 필요한 고양이와 쥐의 게임을 하게 될 것이라고 주장했다. 그는 사고방식의 전환을 제안했다. 즉 해킹당할 것이라고 가정하고, 취약점을 얼마나 빨리 찾아 고치느냐에 집중하라는 것이다. 그의 조언은 모든 신호와 데이터를 통합해 AI 기반 방어 컴퓨팅이 비정상 행동을 찾아내게 하라는 것이었다.

진행자들은 프런티어 모델이 가장 강력한 사이버 방어 도구를 공개하지 않아 혼란의 상당 부분을 만든다는 가설과, 오픈소스 프로젝트가 화이트햇 보안팀에 더 많은 역량을 준다는 가설을 제기했다.

아로라는 그 가설이 연구소들을 과대평가한다고 말했다. 그는 그 연구소 사람들 대부분이 자신들이 찾아낸 매우 강력한 시스템으로 무엇을 해야 할지 묻는 연구자들이라고 말했다. 그는 연구소들이 컴퓨팅 자원에 제약을 받고 있어 최신 모델에 대한 일반 접근조차 제한된다고 주장했고, 그들의 주된 관심사는 기술을 어떻게 수익화하고 매출을 키울지라고 말했다.

프리드버그는 AI 에이전트가 의도된 목적을 벗어나 행동하면 그것은 제품 책임 문제가 된다고 말했다. 그는 제품이 의도대로 작동하지 않으면 플랫폼이 책임을 지며, 이는 일반적인 소비자 제품에도 해당한다고 주장했다.

진행자들은 올인 팀이 육성한 한 회사가 가드레일 없는 모델을 제공하며 이를 레드팀을 운영하는 고객의 책임으로 두고 있다는 점도 논의했다. 차마스는 그런 모델의 아이디어가 두렵다며 현재 위험이 과소평가되고 있다고 말했다.

진행자들은 주요 사고가 발생하기 전까지 사이버 보안 예산이 낮게 유지되는 경우가 많다고 주장했다. 차마스는 IT 예산 중 사이버 보안에 보통 4%에서 10%가 배정되며, 금융 서비스와 연방 정부는 약 10%, 클라우드 중심 기업은 4%에 가깝다고 말했다.

아로라는 모든 사업 부서가 AI의 도움을 원하게 되면서 CISO가 다음 CEO가 될 수도 있다고 말했다. 그는 처음에는 CFO가 AI를 원치 않았지만 이제는 모든 부서가 AI 인력을 요청한다고 말했다.

진행자들은 버니 샌더스 등이 AI를 막는 데 왜 그렇게 강경한 입장을 취하는지 질문받았다. 프리드버그는 이것이 포퓰리즘 주제라고 말했다. AI 연구소들이 사무직의 절반이 사라지고 많은 사람이 죽을 것이라고 경고하기 때문에, 우파든 좌파든 포퓰리스트들에게 효과적인 쟁점이 된다는 것이다.

프리드버그는 그런 입장 설정이 관심과 표를 끌어모으는 효과적인 방법이라고 주장했다.

차마스는 프랑스 소요 참가자들을 범죄자이자 테러리스트라고 부르며 강경한 대응을 촉구했다. 프리드버그는 이에 동의하지 않았다. 그는 항의가 고등학생들의 불만을 포함해 정당하고 평화롭게 시작되었다가 범죄로 변했다고 주장했다.

프리드버그는 불만이 학교와 팔레스타인부터 의료, 일자리, 재정이 부족한 공공 서비스까지 폭넓다고 말했다. 그는 소요를 국가가 자신들을 부양해 줄 것이라고 기대했던 이민자들과 연결했고, 그것은 한 번도 지켜지지 않은 약속이었다고 말했다.

프리드버그는 분산된 정부에는 책임성, 진전, 인센티브 구조가 없어서 국가가 사람들을 돌보려 할수록 사람들이 더 뒤처진다고 주장했다. 그는 미국 정부가 의료, 주거, 교육이라는 세 가지를 제공하려 하는데, 이들에 대한 지출을 늘릴수록 오히려 나빠지고 더 비싸졌다고 말했다.

그는 RAND 그룹이 GDP 대비 정부 지출을 나타낸 차트를 가리키며 프랑스를 1989년 정점의 소련, 공산주의 루마니아, 차베스 시기의 베네수엘라, 중국과 비교했다. 그는 미국의 공공 지출이 GDP의 약 36%이며, 약 33조 달러 규모 GDP에서 연방 지출이 약 7.4조 달러, 주와 지방 지출이 약 4.6조 달러라고 말했다.

차마스는 프랑스에서 대학 등록금이 연 300유로 정도인 반면 국가는 학생 1인당 약 12,000유로를 지출한다고 지적했다. 그는 자신이 제기한 네 가지 문제 중 무상 교육과 무상 의료 두 가지는 프랑스에서 대체로 해결됐고, 세 번째인 학자금 대출은 아예 존재하지 않는데도 폭동은 계속된다고 주장했다.

그는 문제가 완전히 해결되지 않았다고 결론지었다. 그가 보기에 근본 문제는 인구를 짓누르는 억압감이다.

한 진행자는 프랑스에서 의사 진료를 받으려면 몇 주가 걸리고, 학교 수준이 낮으며, 일부 교실에는 아이가 60명씩 있다고 말했다. 차마스는 상위 계층이 더 잘살고 사람들도 잘될 것이라는 약속을 받았다는 식의 근본적인 억압감이 인구 전반에 있다고 말했다.

차마스는 또 파리에서 중국계 소유 상점을 공격하는 폭도들의 영상을 언급했다. 그들은 중국계 상점들이 너무 성공했다고 묘사됐다고 말했다. 그는 거대한 정부와 사회주의의 압박 속에서 사람들은 앞서가는 것처럼 보이는 이들을 문제로 취급하게 된다고 주장했다.

한 발언자는 두 가지 가능한 결과를 비교했다. 일부 국가에서 보듯 폭동과 살인이 동반되는 사회적 붕괴, 또는 아르헨티나, 브라질, 그리고 최근의 그리스에서 보듯 경제적 붕괴다. 그는 비슷한 부채 대 GDP 비율에서 미국이 프랑스보다 높은 적자를 감당할 수 없으며, 성장률이 조금 더 높아도 마찬가지라고 주장했다.

그는 미국이 어떤 형태로든 리셋이 필요할 것이라고 말하며, 연방 학자금 대출을 끝내고 연방 주택담보 지원을 줄이는 방안 등을 제안했다. 이는 중산층 자산을 10%에서 20%까지 줄일 수 있다고 했다. 그는 또 호주와 노르웨이처럼 연금을 확정급여형에서 확정기여형으로 바꿀 수도 있다고 말했다.

제이슨은 '안락의자 자선가'가 열린 국경을 지지하고 모두를 돌봐야 한다고 말하면서도, 이민자를 자기 집에 들이거나 먹이거나 고용하지는 않는다고 주장했다. 그는 이것이 유럽에서 보이는 것과 같은 모순이라고 말했다.

그는 프랑스의 한 활동가가 가게가 파손되자 모두를 위해 나선 활동가라고 외쳤지만 폭도들은 개의치 않았다고 묘사했다. 그는 또 머스크가 자녀들에게 주식을 준 것에 대한 카라 스위셔의 견해를 비판하며, 주식을 보유하면 수혜자가 자본주의의 일부가 된다고 주장했다.

한 발언자는 한 나라가 모국어를 쓰지 않는 사람들을 흡수할 수 있는 양은 제한적이라고 말했다. 그러지 않으면 두 번째 교육 체계와 의료 체계가 필요한 거대한 부담이 되기 때문이다. 그는 유럽의 북아프리카 이민자 인구에 대한 수치를 들며, 대략 19명 중 1명이 북아프리카 출신이고 9명 중 1명이 이민자라고 말했다.

그는 일자리를 찾아 스스로를 부양할 수 있는 이민자를 받아들이고, 이민자에 대한 복지 혜택을 없애 적절한 인구가 스스로 걸러지게 하자고 제안했다.

한 발언자는 프랑스의 조세 대 GDP 비율이 약 46%로 가장 높은 축에 속해, GDP 1달러당 거의 절반이 세금으로 걷힌다고 지적했다. 그는 미국이 개인의 기회를 회복하려면 세금과 GDP 대비 지출을 줄여야 한다고 주장했다.

다른 발언자는 미국보다 위에 있는 나라에서 살고 싶어 할 미국인은 대부분 없을 것이라고 반박했고, 브라질의 청년 실업률이 약 15%에서 20%를 오가고 있다고 말했다.

색스는 연방 최저임금이 약 1,000만에서 1,500만 명에게만 영향을 준다며, 인상은 작은 제스처에 그친다고 말했다. 그는 캘리포니아가 최저임금을 시간당 20달러로 올리려던 시도는 너무 빨랐다며, 7년에 걸쳐 매년 1달러씩 올려 15달러에 도달하자고 제안했다.

프리드버그는 캘리포니아의 SB 1228 이후 패스트푸드 일자리가 1만 8천 개 줄었다고 말했고, 이를 가격 상승과 수요 감소 탓으로 돌렸다. 그는 시장에 대한 정부 개입이 공급과 수요를 모두 망가뜨린다고 주장했다.

색스는 최저임금 인상이 저임금 노동자의 지출을 늘려 기업에도 도움이 된다고 반박했다. 두 사람은 합의에 이르지 못했고 다음 주제로 넘어갔다.

색스는 트럼프의 지지율이 역사적 저점에 있다고 말하며, 행정부가 데이터센터와 암호화폐는 많이 이야기하면서 최저임금, 주거, 인플레이션에 대해서는 거의 말하지 않는다고 주장했다. 그는 저소득 미국인과 소통하지 못하는 것이 행정부의 가장 큰 문제라고 말했다.

진행자들은 행정부의 소통이 나빴다는 데는 동의했지만, 대통령의 경제 성과가 강한지에 대해서는 의견이 달랐다.