AI 비용 증가, 생각했던 것과 다르다

샘 알트만(Sam Altman)은 한때 지능이 '측정할 수 없을 정도로 저렴해질 것'이라고 예측했지만, 이는 현재 AI 비용이 증가하는 현실과 극명한 대조를 이룹니다.

2025년, 개발자의 개인 AI 사용량은 월 평균 800~1,000달러였으나, 2026년에는 Fable 및 Astra와 같은 새로운 모델들이 토큰당 더 높은 가격으로 더 많은 토큰을 생성하여 기업의 운영 비용이 크게 증가함에 따라 토큰에 대한 일일 사용량만으로도 1,000달러를 초과할 수 있습니다.

개발자는 AI 비용이 실제로 감소했지만, 이러한 비용을 측정하는 기존 방법이 근본적으로 결함이 있다고 주장합니다.

이 분석은 초기 비용 절감 약속과 Astra와 같은 고급 모델에서 관찰되는 현재의 비싼 현실 사이의 불일치를 명확히 하는 것을 목표로 합니다.

다양한 세대의 토큰 가격 모델을 비교해보면, GPT-5 Medium은 출력 토큰 백만 개당 10달러, 입력 토큰 백만 개당 125달러였습니다.

반면, GPT-6 Astra는 출력 토큰 백만 개당 50달러, 입력 토큰 백만 개당 10달러로, 입력 및 출력 토큰 비용이 5배에서 10배 증가하여 예상되는 비용 절감과 정반대되는 결과를 보여줍니다.

AI 비용을 토큰 비용만으로 평가하는 것은 불충분합니다. 실제 비용에는 더 복잡한 요소들이 포함됩니다.

포괄적인 평가는 토큰당 비용, 작업을 완료하는 데 필요한 토큰 수, 모델이 수행할 수 있는 작업의 다양성을 고려해야 하며, '달러당 지능'이 가치에 대한 궁극적인 지표로 부상하고 있습니다.

주력 AI 모델의 토큰 비용은 증가했지만, 시장에는 매우 유능하고 훨씬 저렴한 대안도 출시되었습니다.

예를 들어, GEM 5.3 Flash와 같은 모델은 GPT-5 비용의 약 30분의 1로 에이전트 작업에 탁월한 성능을 제공하여, 최고급 모델이 더 비싸지는 와중에도 강력한 AI의 접근성을 확대하고 있습니다.

Gemini 3.8 Flash와 같은 모델은 토큰당 비용이 낮음에도 불구하고 과도한 토큰 소비로 인해 전체 작업 비용이 더 높아질 수 있습니다.

이러한 높은 토큰 낭비는 실제 비용 이점을 크게 감소시켜, 저렴한 모델과 비싼 모델 간의 격차를 10배 이상에서 3배 미만으로 좁힐 수 있습니다.

모델의 효율성은 작업에 따라 달라집니다. 입력 집약적 작업은 낮은 입력 토큰 비용을 우선시하며, 에이전트 작업은 신뢰성과 캐시 효율성에 더 의존합니다.

AI 지능의 점진적인 개선을 달성하려면 종종 기하급수적으로 더 높은 비용이 요구되며, 45-46에서 50대까지 약간의 점수 증가는 작업에 대한 재정적 지출을 세 배로 늘릴 수 있습니다.

이 모델은 GPT-4에 비해 입력 토큰은 21배, 출력 토큰은 55배 저렴하여, 비용 대비 성능 비율에서 약 20배 향상을 달성하며, Artificial Analysis가 추적하는 지능 수준 및 작업 비용 개선 사항을 보여줍니다.

2022년 11월부터 2024년 7월까지 10점 미만 지능 작업의 비용은 60센트에서 2센트로 급락하여 엄청난 가격 인하를 보여줍니다.

o1-preview 비용은 2024년 9월 15달러에서 2025년 2월 Grok 3 Mini를 통해 단 16센트로 떨어져, 새롭고 더 저렴한 모델들이 빠르게 시장에 진입함에 따라 가격 하락 추세가 가속화되고 있음을 보여줍니다.

20점 지능 비용도 155달러에서 26달러로, 그리고 더 새로운 모델의 도입으로 단 몇 푼으로 급격히 떨어졌습니다.

새로운 지능 수준에 대한 비용은 이전과 같은 기하급수적인 급증을 더 이상 경험하지 않습니다.

특히 40점 지능 수준의 배틀그라운드는 훨씬 저렴한 가격으로 더 높은 점수를 제공하는 새로운 모델들을 선보이며, 특정 지능 수준의 가격은 전년 대비 10배 이상 하락했습니다.

AI 모델 사용량은 기본적인 자동 완성 기능에서 포괄적인 엔드 투 엔드 작업 실행으로 크게 발전했습니다.

이러한 변화는 모델이 이제 사람의 개입을 줄이면서 더 크고 복잡한 작업을 처리한다는 것을 의미하며, 이는 단위 가격 상승보다는 더 많은 소비와 프롬프트당 더 많은 토큰 생성으로 인해 AI 청구서가 높아지는 결과를 가져옵니다.

모델은 더 저렴해지고 더 유능해졌지만, 역설적으로 AI에 대한 총 지출은 전반적으로 증가하고 있습니다. 이는 증기 기관의 역사적 영향과 비교되는 현상입니다.

지출이 증가하는 이유는 모델 자체가 더 비싸서가 아니라, 향상된 기능과 경제성으로 인해 더 넓은 범위의 응용 분야에서 더 광범위하게 활용되기 때문입니다.

Flash의 백만 토큰당 0.25~0.50달러와 GPT-4의 백만 토큰당 10달러와 같은 직접적인 비용 비교는 Flash의 효율성과 뛰어난 기능을 강조하며, 고급 도구 사용 기능을 갖춘 소형 모델이 이전에 선도적이었던 최고급 모델을 크게 능가하고 있음을 보여줍니다.

이러한 잘못된 평가는 진행 상황의 진정한 정도를 정확하게 포착하지 못한 불충분한 벤치마크에 과도하게 의존했기 때문이며, 발표자는 자신의 이전 예측 이후 AI 기능의 빠르고 비용 효율적인 진화에 대한 불신을 표명했습니다.

'10배 저렴한 지능'이라는 약속은 실제로 실현되어 작년에 수행된 작업을 오늘날 훨씬 더 저렴하게 만들었습니다.

증가하는 AI 지출은 생산성 향상과 더 크고 복잡한 문제를 해결할 수 있는 능력을 의미합니다. 현재의 고급 워크플로는 높은 일일 비용에도 불구하고 이전 모델 세대로는 불가능했거나 훨씬 덜 효율적이었을 것입니다.