아마존 앤디 젯시, 2,200억 달러 AI 인프라 투자와 그 수요를 말하다

젯시는 올해 약 2,200억 달러의 자본지출이 예정되어 있음에도 아마존이 여전히 상당한 수요를 놓치고 있다고 말하며 이야기를 시작했다. 그는 회사가 온디맨드 고객을 위해 늘 일부 용량을 남겨두지만, 2026년은 분명히 매진되었고 2027년도 대부분 매진되었으며 2028년의 상당 부분도 이미 판매되었다고 말했다.

그는 이렇게 큰 규모의 인프라 구축에 필요한 자금이 세상에 충분한지에 대해 금융시장이 의문을 제기한다는 점을 인정했다. 그러나 주식 거래, 은행업무, 의료 등 오늘날 사람들이 하는 거의 모든 일이 데이터센터 위에서 돌아가며, 아마존의 임무는 가능한 한 많은 용량을 추가하는 것이라고 답했다.

젯시는 또한 최전선 AI 연구소들이 전력, 냉각, 칩을 위해 거의 어떤 가격이든 기꺼이 지불하려 한다고 언급했다. 그는 새 고객들이 요구하는 가격을 기꺼이 낸다면 아마존이 기존 고객을 사들이고 새 고객에게 팔아야 할지도 모른다고 농담했다.

젯시는 2021년 CEO가 되었을 때와 현재를 비교했다. 그는 전체 매출이 약 80% 늘었고, AWS는 거의 세 배 커졌으며, 광고 매출은 약 2.5배 커졌다고 말했다.

그는 아마존의 사명을 매일 고객의 삶을 더 낫고 편리하게 만드는 것이라고 설명했다. 이 사명은 프라임 비디오, 아마존 리오 위성, 조옥스 승차 서비스, 헬스케어, 로보틱스를 포함한 여러 사업을 하나로 묶는다고 말했다.

젯시는 아마존이 25년에 걸쳐 만든 물류 네트워크의 규모를 약 18개월 만에 두 배로 늘렸다고 설명했다. 팀은 이렇게 빠르게 움직이는 것이 천천히 움직이는 것보다 어렵고 비용이 많이 들며, 결과도 최적은 아닐 것이라는 점을 알고 있었지만, 특히 팬데믹으로 오프라인 매장이 문을 닫은 상황에서 고객과 판매자에게는 용량이 필요했다.

그는 아마존이 거의 언제나 그렇듯 고객의 편에 서기로 결정했고, 이후 뒷정리를 감수했다고 말했다. 회사는 네트워크가 정확히 어떻게 나올지 예측하지 못했지만, 좋은 지표와 진실을 말하는 문화가 설계를 바로잡는 데 도움이 되었다고 했다. 전국적으로 평평했던 물류 네트워크를 나중에 지역 단위로 나눈 것은 운송 거리를 줄여 배송을 빠르게 하면서 비용도 낮추었다고 설명했다.

벤 호로위츠는 아마존이 외부인이 인프라를 임대할지 알기 전에 먼저 인프라를 짓고 있었다는 점에서 AWS가 '만들면 사람들이 온다'는 논리로 시작했다고 지적했다. 젯시는 내부 신호를 통해 제품 팀들이 회사가 원하는 만큼 빠르게 움직이지 못하고 있다는 것을 알 수 있었다고 말했다.

그 팀들은 시간의 70~80%를 제품을 차별화하지 않는 인프라에 쓰고, 실제로 제품을 차별화하는 기능에는 약 20%만 썼다. 아마존은 컴퓨팅, 스토리지, 데이터베이스, 메시징 같은 대규모·저비용 기본 블록을 만들기 시작했고, 이후 이를 외부 고객에게도 제공했다고 설명했다.

젯시는 초기 AWS가 빠르게 성장해 3년 만에 연간 런레이트 약 6,000만 달러에 도달했다고 말했다. 반면 생성형 AI 물결의 처음 3년 동안 아마존의 AWS 내 AI 사업은 연간 런레이트 250억 달러를 넘었다.

그는 이것이 수백 배 빠른 속도이며 아마존이 이런 것을 본 적이 없다고 말했다. 그러면서 이제 질문은 그 기회를 쫓기 위해 자본지출을 얼마나 투입할지라고 했다. 15년 전 회사는 한 통신사의 500억 달러 자본지출을 믿기 어렵다고 생각했던 적이 있다고 회상했다.

젯시는 AWS가 시작될 때 데이터센터가 정치적 쟁점이 될 것이라고는 누구도 예상하지 못했을 것이라고 말했다. 그러나 특히 미국에는 데이터센터에 강하게 반대하는 정치가 있다고 했다. 그는 AI 이전에도 주식시장, 은행, 헬스케어, 엔터테인먼트, 쇼핑, 교육, 승차 공유가 모두 데이터센터 위에서 돌아간다고 지적했다.

그는 AI를 인터넷, 클라우드, 모바일 이후 현 시대의 가장 큰 기술 변화라고 설명했다. 필요한 구축을 1950년대에 건설된 고속도로와 교량에 비유했고, 미국이 데이터센터를 짓지 않을 여유는 없으며 그렇지 않으면 중국 같은 나라가 그곳에서 리더십과 규범을 세울 수 있다고 말했다.

물 사용에 대해서는 골프장이 아마존 데이터센터 전체보다 약 200배 많은 물을 쓴다고 말했다. 또 비상 발전기가 작동하는 시간은 매우 짧다는 점을 들어 널리 퍼진 주장에 반론을 폈다.

젯시는 인디애나주 세인트조지프 카운티에서 아마존이 약 30억 달러의 세금을 냈다고 말했다. 지역 사회는 그 돈을 받아 자신들에게 정말 중요한 일에 쓸 수 있다고 했다. 또 아마존은 데이터센터가 있는 지역 사회를 위해 빌트 투게더 같은 프로그램을 통해 향후 5년간 10억 달러를 추가로 약속했다고 밝혔다. 그는 이 구축을 지역 사회와 계속 함께 가꿔야 하는 공공·민간 파트너십으로 규정하고, 이것이 국가의 미래에 갖는 중요성을 앞서 건설된 고속도로와 교량이 국가의 경제적 번영을 만든 방식에 비유했다.

그는 이 구축을 지역 사회와 유지해야 하는 공공·민간 파트너십으로 규정하고, 그 중요성을 앞서 건설된 고속도로와 교량의 경제적 가치에 비유했다.

젯시는 데이터센터 용량, 전력, 메모리에는 한계가 있으며 이 부족이 2027년에 끝나지 않을 것이라고 생각한다고 말했다. 그는 2026년이 매진되었고, 2027년도 대부분 매진되었으며, 2028년의 상당 부분도 이미 매진되었다고 말했다.

새로운 AI 연구소에 기존 고객보다 높은 가격으로 팔아야 하는지 묻자, 젯시는 회사가 그런 식으로 보지 않는다고 답했다. 아마존은 고객을 쥐어짜지 않을 것이며 고객이 확장할 수 있도록 할 것이라고 말했다. 그는 메모리에 대해 AI 가속기용 고대역폭 메모리와 핵심 사업용 표준 메모리 사이에 실질적인 상충 관계가 있다고 설명했다.

그는 또한 팬데믹 동안 아마존이 고객의 비용 최적화를 먼저 도왔고, 장기적 신뢰를 위해 단기 매출 손실을 감수했다고 말했다.

젯시는 2015년 애너푸르나 랩스 인수를 아마존 역사상 가장 좋은 인수 중 하나라고 평가했다. 그는 아마존이 AI 칩만을 위해 그 팀을 산 것은 아니라고 말했다. 회사는 EC2 서버가 가상화, 네트워킹, 보안, 스토리지를 위해 하던 작업을 넘겨서 각 서버의 거의 100%를 고객 컴퓨팅에 쓰고 싶었다.

그 오프로드 기술인 니트로는 거의 모든 EC2 서버에 들어가게 되었다. 아마존이 그 팀을 산 이유는 칩을 잘 만드는 재능이 있었고 다른 칩도 만들 수 있을 것 같았기 때문이라고 했다.

젯시는 인텔이 거의 모든 CPU 점유율을 가지고 있었기 때문에, 다른 기능에 집중하던 파트너에게서 가격 대비 성능에 대한 관심을 얻기가 어려웠다고 설명했다. 온프레미스 워크로드를 클라우드로 옮기는 고객들은 더 나은 가격 대비 성능을 원했고, 그래서 아마존은 애너푸르나 팀에 CPU 칩을 만들게 했다.

그 결과인 그래비톤은 상위 1,000개 EC2 고객 중 99%가 사용하며, 다른 x86 프로세서보다 가격 대비 성능이 약 40% 좋다. 몇 년 전 아마존은 AI에서도 비슷한 패턴을 보고 AI 가속기 트레이니움을 만들기 위해 별도의 애너푸르나 팀을 분리했으며, 그것은 비교 가능한 프로세서보다 가격 대비 성능이 약 30~40% 좋다고 말했다.

젯시는 한 Bedrock 팀이 6명의 엔지니어로 76일 만에 추론 엔진을 다시 만들었다고 말했다. 그는 이 작업이 예전에는 40명이 1년 걸렸을 일이라고 했다. 또 네 명이나 다섯 명이 주말 동안 만든 프로토타입이 일요일에는 80% 출시 가능한 상태였다는 사례도 들었다.

그는 회사가 커지면서 전문화가 진행되었고, 제품 관리자는 제품의 한 조각만 담당했지만, AI에서는 모델이 많은 기능의 작업 약 80%를 감당할 수 있어 더 교차 기능적인 인력이 필요하다고 말했다. 앞으로 기업은 오늘날 하는 일을 사람이 훨씬 적게 맡게 될 것이며, 0은 아니지만 AI, 로보틱스, 우주 분야에 새로운 일자리가 생길 것이라고 예측했다.

젯시는 팀이 훨씬 작아질 것이며, 모든 팀이 과거보다 더 발전된 단계에서 출발할 것이라고 말했다. 이를 통해 기업은 더 폭넓고 빠르게 혁신할 수 있다고 했다. 그는 오늘 시작하는 대부분의 스타트업이 처음부터 에이전트 방식과 AI 네이티브 방식으로 만들어지고 있다고 말했다.

그는 기존 기업들도 그 같은 속도로 만드는 법을 배워야 한다고 말했다. 일부는 해낼 것이지만, 큰 사업과 충성도 높은 고객을 가진 기업은 느리게 움직여 스타트업에 더 취약해질 수 있다고 했다.

젯시는 기업들이 에이전트가 여러 코드 조각을 업데이트할 수 있도록, 거의 모든 코드를 에이전트 기능을 갖추도록 다시 써야 할 것이며 그 제약을 내재화해야 한다고 예측했다. 그는 최근 공개적으로 우려된 것은 악성 봇넷이나 악의적인 로봇 같은 공상적 시나리오였다고 말했다. 그것도 가능하지만 가장 당장의 위험은 아니라고 했다.

그는 더 즉각적인 우려는 사이버보안이라고 말했다. 모델은 인간이 이전에 찾던 것보다 훨씬 많은 취약점을 발견한다는 것이다. 그는 애플리케이션이 보안 위협에 대응하려면 오늘날 대부분 기업이 따르는 취약점 발견, 분류, 패치, 배포의 긴 과정 대신 몇 분 안에 대응해야 한다고 주장했다.

젯시는 기업이 AI를 사용하는 방법으로 비용 절감, 새로운 것 발명, 성공한 제품을 처음부터 다시 생각하기의 세 가지를 설명했다. 그는 일부 벤처 투자사가 비용 절감을 위해 오래된 기업을 사들인다고 말했고, 아마존은 이것이 그다지 흥미롭지 않다고 말했다. 반면 새로운 것을 만드는 일은 흥미롭다고 했다.

그는 간결한 조직과 작은 팀이 두 번째 범주의 새로운 경험을 만들 수 있다고 말했다. 또 AI를 기존 경험의 점진적 개선 정도로만 다루는 기업은 3~5년 뒤에 승리하는 경험을 갖지 못할 가능성이 크다고 경고했다. 그는 알렉사와 프라임 비디오, 파이어 TV, 프라임 뮤직 같은 소비자 사업을 예로 들며, 여러 팀이 완전히 새로운 버전을 만들며 재구상해야 한다고 말했다.

젯시는 기업이 새 앱 같은 완전히 다른 경험을 만들지, 아니면 기존 경험에 요소를 더하며 조금씩 바꿀 만큼 빠르게 발전할지를 결정해야 한다고 말했다. 그는 앞으로 몇 년 안에 이런 경험 하나하나가 성공적인 리더가 되려면 달라져야 한다고 말했다.

호로위츠는 첫 번째 코드 줄을 쓰기 전까지는 모든 것이 논의 대상이라는 오래된 엔지니어링 격언과 이를 비교했다. 젯시는 큰 변화에는 변화 관리가 필요하며, 온프레미스 작업을 자랑스러워하던 인프라 리더들이 클라우드 이동에 저항했기 때문에 완전히 새로 시작하는 일은 지적으로도 감정적으로도 어렵다고 말했다.

젯시는 AI가 급부상하던 시기에 22세 자녀가 19세였는데, 교육에서 젊은이들에게 AI를 쓰지 말라고 할 수 없다는 것을 빨리 깨달았다고 말했다. 대학이 이에 맞서 싸우지 않는 편이 현명할 것이라고 제안했다. 그는 AI가 쓴 글은 조각들이 완전히 맞아떨어지지 않아 사람들이 알아챌 수 있다고 말했다.

그의 조언은 젊은이들이 AI에서 도망치거나 AI가 사라지기를 바랄 수 없으며, 배우고, 스스로 교육하고, 많이 사용하고, 편안한 영역 밖에서 시도해야 한다는 것이었다. 그는 AI가 비판적 추론과 사고를 대신하지 않는다고 덧붙였고, 자녀 둘 다 아직 개발자는 아니지만 AI를 사용해 애플리케이션을 만든다고 말했다.