AI 에이전트, 메모리 수요 14배 폭증

AI 모델이 데이터를 처리하는 가장 작은 단위인 토큰의 사용량이 급증하고 있습니다. 특히 AI 에이전트의 토큰 사용량은 6개월 만에 14배나 증가하여 메모리 반도체 수요를 크게 끌어올리고 있습니다. AI 에이전트는 사람보다 5배 더 많은 토큰을 소비하며, 모델 호출 및 도구 실행 등으로 인해 메모리 사용량이 급격히 늘어나고 있습니다.

같은 기간 사람의 토큰 사용량은 2.8배 증가에 그쳤습니다. 결과적으로 에이전트가 사람보다 15배 더 많은 토큰을 사용하고 있는 것으로 나타났습니다.

AI 모델의 비용 효율성이 향상되더라도, 제본스의 역설이 적용되어 메모리 총 수요는 오히려 증가하고 있습니다. 효율성 향상으로 단위 비용은 낮아지지만, AI 서비스 이용이 폭발적으로 늘어나면서 전체 사용량(Q)이 급증하는 현상입니다. 실제로 오픈AI의 토큰 소비량은 9,000배 증가하여 90조 개를 돌파했으며, 이 중 에이전트 AI가 전체 토큰 사용량의 71%를 차지하고 있습니다.

다만 캐시된 토큰 사용 비중이 높아지면서 AI 서비스 제공 기업의 수익 증가율은 상대적으로 더딜 수 있습니다. 하지만 캐시된 토큰 역시 서버, 메모리, 전력 등 물리적 인프라에 대한 수요를 유발하므로 관련 투자는 지속될 것으로 보입니다.

AI의 급성장으로 데이터 센터의 전력 수요가 폭증하며 전력난이 확산되고 있습니다. 미국 데이터 센터의 전력 수요는 2027년 66GW에 달할 것으로 예상되지만, 같은 해까지 필요한 전력 발전 용량 36.3GW 대비 실제 공급은 8.5GW 수준에 불과할 것으로 보입니다. 이에 아마존, MS, 구글, 메타 등 주요 기업들은 2030년까지 데이터 센터 인프라에 총 7조 달러를 투자할 것으로 전망됩니다.

AI 데이터 센터의 전력 부족은 2027년까지 약 40%의 데이터 센터에 영향을 미칠 것으로 예상됩니다. 이에 따라 AI 투자로 인한 수혜 분야는 GPU를 넘어 메모리, 네트워킹, 발전, 송전, 냉각, 전기 장비 등 광범위한 인프라 영역으로 확대되고 있습니다.

아스트라 AI 모델은 타 모델 대비 뛰어난 비용 효율성을 보이고 있습니다. 10달러 미만의 저렴한 비용으로 60~65%에 달하는 높은 성능을 제공합니다. 반면 GPT 5.6 모델은 20달러 이상, 클라우드 모델은 30달러의 비용이 발생하며 성능은 아스트라보다 낮은 것으로 나타났습니다.

이는 일반 경쟁 모델이나 클라우드 서비스가 30.2%에 그치는 것에 비해 압도적으로 높은 수치로, 아스트라의 강력한 경쟁력을 입증합니다.

1달러 미만의 비용으로 95%의 정확도를 달성했습니다. 타 모델들은 동일 수준의 정확도를 위해 더 많은 비용을 투입해야 하며, 비용 대비 정확도는 82~90% 수준에 머물렀습니다.

10달러 미만의 비용으로 60% 이상의 정확도를 달성하며, 가격 대비 뛰어난 성능 효율성을 다시 한번 확인했습니다.

2달러 미만의 비용으로 40% 이상의 성능을 보여주었습니다. 반면 클라우드 모델은 3~4달러의 비용을 투입하고도 20% 미만의 성능을 기록하는 데 그쳤습니다.

아스트라 모델은 컴퓨터 사용의 속도, 정확성, 안정성에 새로운 지평을 열고 있습니다. 온라인 양식 작성, CRM 고객 기록 관리, 데이터 및 일정 관리와 같은 번거로운 사무 작업을 처리할 수 있습니다. 또한 이메일 요약, 과학 데이터 분석, 프런트엔드 테스트 및 오류 해결과 같은 전문적인 기술 작업까지 자율적으로 수행 가능합니다.

아스트라와 같은 AI 모델이 복합적인 업무를 처리하고 성능을 고도화하기 위해서는 필연적으로 대량의 메모리가 필요합니다. 기존 모델들의 메모리 수요가 거의 늘어나지 않는 것과 대조적으로, 아스트라 모델의 등장으로 메모리 수요가 비약적으로 상승하고 있습니다.

아스트라 모델은 다양한 벤치마크 테스트에서 뛰어난 성능을 입증했습니다. 프론티얼 메스티얼 벤치마크에서 98%의 높은 점수를 획득했으며, 수학 분야의 오래된 난제들을 해결하는 데 기여했습니다. 특히 RKGI에서는 99.9%, 엑스플로 벤치마크에서는 100%의 점수를 기록하며 전문 분야에서의 탁월한 정확성을 보여주었습니다.