AI 시대, 데이터센터가 전력난 직면

구글, 마이크로소프트, 오픈AI와 같은 주요 기업들이 데이터를 주고받는 인터넷의 핵심 인프라가 바로 이러한 데이터센터라고 설명했다.

데이터센터 내부는 보안 시설로서 촬영이 엄격히 제한되어 카메라 접근이 어려운 구역이 대부분이다. 이에 원유섭 기자는 직접 내부를 둘러보면서 카메라에 담을 수 없는 AI 데이터센터의 모습과, 미국 내 데이터센터 건설 경쟁이 치열해지는 이유, 전력 및 물 부족 논란의 진행 상황 등을 정리할 예정이라고 밝혔다.

데이터센터에 들어가기 위해선 먼저 신분증 확인 후 한 사람씩 통과하는 ‘피플 트랩’을 거쳐야 한다. 이처럼 총 5단계의 엄격한 보안 절차를 통과해야만 서버가 있는 공간에 들어갈 수 있다. 이는 데이터센터 내부에 기업의 중요한 데이터가 저장되어 있고, 인터넷 서비스의 핵심 인프라가 운영되기 때문에 문제가 발생하면 기업 서비스 자체가 멈출 수 있기 때문으로 풀이된다.

모든 보안 관문을 통과하자 검은색 서버 캐비닛이 끝없이 늘어선 공간이 나타났다. 에퀴닉스의 SV10 데이터센터에서는 양쪽으로 서버와 네트워크 장비가 줄지어 있었고, 천장에는 엄청난 양의 광섬유 케이블이 여러 방향으로 뻗어 있었다. 또한 거대한 팬이 계속 차가운 공기를 내뿜어 공간 전체가 매우 추웠다.

바로 옆에 있는 SV1 데이터센터로 이동하자 분위기는 완전히 달라졌다. SV10보다 덜 춥고 귀를 울리던 소음도 한결 줄었다. 대신 천장에서 굵은 배관들이 내려오고 있었는데, 이 배관들이 AI가 데이터센터를 어떻게 변화시키고 있는지를 보여주는 핵심 요소였다.

기존 데이터센터는 방 전체의 에어컨을 강하게 틀어 서버실 온도를 낮추는 방식이었으나, AI 시대에 접어들면서 이러한 방식으로는 급증하는 열을 감당하기 어려워졌다.

AI 연산을 담당하는 GPU가 엄청난 양의 전기를 사용하고 그만큼 엄청난 열을 내기 때문에 기존 냉각 방식만으로는 감당하기 어렵게 됐다. 에퀴닉스의 베일 스트롱 운영 총괄은 AI 시대 이후 데이터센터에서 가장 크게 달라진 점으로 ‘밀도’를 꼽았다. 20년 전 서버 캐비닛 하나가 2kW의 전력을 사용했지만, 현재 SV1에 설치된 최신 AI 시스템 일부는 캐비닛 하나에서 최대 135kW를 사용하며 이는 20년 만에 60배 이상 늘어난 수치이다.

이러한 고밀도 시스템에서는 방에 찬바람을 불어넣는 것만으로는 충분한 냉각이 불가능하다. 결국 AI 발전은 반도체뿐만 아니라 데이터센터 건물의 구조까지 변화시키고 있다.

이는 뜨거운 프라이팬을 선풍기로 식히는 대신 뜨거운 부분에 직접 냉각 장치를 갖다 대는 것과 유사한 원리다. AI의 발전은 데이터센터의 구조 변화를 넘어, 필요한 데이터센터의 수와 관련한 새로운 질문을 제기하고 있다.

현재 미국은 데이터센터 건설 문제로 골머리를 앓고 있다. 과거 인터넷 시대의 데이터센터가 데이터를 저장하고 전달하는 ‘창고’ 역할에 가까웠다면, AI 시대의 데이터센터는 데이터를 넣어 연산을 거쳐 새로운 결과물을 만들어내는 일종의 ‘공장’ 역할을 하고 있기 때문이다. 챗GPT에 질문하고 AI로 사진과 영상을 만들고 프로그램을 짜는 모든 과정에 연산이 필수적이다.

AI가 단순히 질문에 답하는 수준을 넘어 여러 일을 처리하는 AI 에이전트로 발전할수록 필요한 연산량은 더욱 늘어난다. 이에 미국에서는 AI 모델 경쟁과 동시에 데이터센터 건설 경쟁이 치열하게 벌어지고 있다. 구글, 마이크로소프트, 아마존, 메타와 같은 빅테크 기업은 물론, AI 기업, 클라우드 사업자, 인프라 투자자까지 데이터센터에 막대한 자금을 쏟아붓고 있다.

하지만 돈이 있다고 해서 데이터센터를 마음대로 지을 수 있는 것은 아니다. GPU, 건물, 송전선, 냉각 설비뿐만 아니라 가장 중요한 전기가 있어야 한다. 에퀴닉스 관계자 역시 앞으로 데이터센터 산업의 가장 큰 병목으로 전력을 꼽았다. 주요 연구 기관들의 전망에 따르면 이 문제가 심각한 수준임을 알 수 있다.

이는 미국에서 생산되는 전기의 약 10분의 1 가까이가 데이터센터로 들어갈 수 있음을 의미한다. 실리콘밸리에서는 이미 데이터센터를 다 지어놓고도 필요한 전력을 공급받지 못해 가동이 늦어지는 사례가 발생하고 있다.

AI 시대에는 누가 더 많은 GPU를 확보했는지와 함께, 누가 먼저 전기를 확보했는지가 핵심 경쟁력이 되고 있다. 이 문제는 점차 정치 쟁점으로 번지는 양상이다. 빅테크가 사용할 데이터센터를 위해 수십억 달러를 들여 전력망을 확충할 경우, 그 비용 일부가 일반 가정의 전기 요금으로 전가될 수 있어 주민들의 반발을 초래할 수 있다.

이는 AI 데이터센터 문제가 실리콘밸리만의 기술적 이슈를 넘어 미국 가정의 전기 요금 문제로 확장되고 있음을 시사한다. 따라서 최근 미국에서는 데이터센터를 바라보는 주민들의 시선도 변화하고 있다.

보통 AI라고 하면 챗GPT와 같은 서비스를 떠올리며 소프트웨어 안에만 존재하는 것처럼 느끼기 쉽다. 그러나 데이터센터 안에서 기자가 본 AI의 모습은 예상과는 완전히 달랐다.

AI는 생각보다 훨씬 물리적인 산업이었다. 거대한 건물, 수많은 GPU, 천장을 가득 채운 전선과 광 케이블, 그리고 굵은 냉각수 배관이 필요하다. 이 모든 것을 움직이려면 엄청난 양의 전기가 필수적이다. 따라서 앞으로 AI 경쟁에서 중요한 질문은 누가 가장 똑똑한 AI를 만들 것인가에만 국한되지 않을 것으로 보인다.

AI를 구동할 전기를 누가 먼저 확보할 것인가, GPU에서 발생하는 열을 누가 가장 효율적으로 식힐 것인가, 그리고 데이터센터 건설에 필요한 비용과 자본을 기업과 지역사회가 어떻게 나눌 것인가가 더욱 중요한 질문이 될 것이다. 이러한 현실적인 문제가 오히려 AI 산업의 성장 속도를 결정할 수 있다.