기업, AI 인텔리전스 자체 소유로 전환 가속화: 비용, 속도, 성능, 주도권 확보가 핵심

소버린 AI는 기업이 인공지능 모델의 가중치(weights)를 포함한 인텔리전스 전체를 외부 의존 없이 자체적으로 소유하는 개념을 의미합니다. 이는 단순히 외부 AI 서비스를 활용하는 것을 넘어, 기업의 핵심 역량으로서 AI를 내재화하려는 움직임입니다.

소버린 AI는 기업들에게 코딩 에이전트, 데스크톱 작업, 최첨단 API의 폐쇄형 모델 사용을 중단하라고 요구하는 것이 아닙니다. 오히려, 많은 기업들이 제품의 일부에서 자체 AI 기능을 구축하고, 인텔리전스의 더 많은 부분을 자체 소유하는 방향으로 수직 통합하려는 경향을 보이고 있습니다. 이는 외부 모델의 장점을 활용하면서도 핵심적인 AI 역량은 내부화하려는 전략적 접근입니다.

최근 알렉스 카프(Alex Karp)와 사티아 나델라(Satya Nadella) 같은 업계 리더들이 기업의 자체 인텔리전스 소유를 지지하며 소버린 AI에 대한 논의가 급격히 확산되었습니다. 또한 젠슨 황(Jensen Huang)은 미국에서 오픈 웨이트 모델의 지속적인 사용 가능성을 주장하며 거의 만장일치의 지지를 얻었습니다. 이러한 움직임은 소버린 AI가 단순한 유행을 넘어선 중요한 전략적 방향임을 시사합니다.

기업들은 AI 인텔리전스를 빌리는 것이 아니라 소유하기를 원합니다. 이는 인텔리전스가 기업 운영에 있어 너무나 핵심적이고 근본적인 자산이어서 단순히 외부 업체에 아웃소싱할 수 없다는 인식이 커지고 있기 때문입니다. 자체 인텔리전스 소유를 통해 기업은 핵심 경쟁력을 확보하고 미래 성장을 위한 기반을 마련할 수 있습니다.

현재 세계 GDP의 많은 부분을 하나의 전능한 중앙 집중식 AI가 흡수하는 방식과, 모든 개인과 기업이 자체 데이터와 산업 특성에 맞춰 인텔리전스를 구축하여 생태계가 번성하는 분산된 AI 방식이 공존합니다. 후자는 어떤 단일 기업도 나머지를 삼키지 않고 개별성이 승리하는 훨씬 더 낙관적인 세계관을 제시합니다. 이는 AI 혁신이 특정 소수에 의해 독점되는 것이 아니라, 더 많은 주체에게 분산되어 이점을 제공할 수 있음을 의미합니다.

소버린 AI로 전환하는 가장 큰 이유 중 하나는 비용입니다. 특히 마진이 낮거나 없는 기업들에게 소버린 AI는 선택 사항이 아닌 필수적인 요소가 되고 있습니다. 역설적으로 AI 제품이 성공할수록 AI 관련 매출원가(COGS)가 높아지는 경향이 있기 때문에, AI 배포에 앞서나가는 기업들이 자체 모델을 소유하는 여정을 가장 먼저 시작했습니다.

두 번째 이유는 속도입니다. 코딩이나 보안과 같이 속도가 매우 중요한 특정 도메인에서는 작고 정제된 맞춤형 모델이 대규모 일반 모델보다 훨씬 빠르고 효과적일 수 있습니다. 자체 모델을 통해 기업은 특정 작업에 최적화된 속도와 효율성을 확보할 수 있습니다.

세 번째 이유는 성능입니다. 이는 비교적 최근의 현상으로, 작년만 해도 대부분의 기업은 더 나은 성능을 위해 자체 인텔리전스 소유를 선택하지 않았습니다. 하지만 이제 우리는 오픈 모델이 특정 도메인에서 폐쇄형 모델보다 더 나은 성능을 낼 수 있는 지점에 도달했습니다. 이로 인해 기업들은 자체 데이터를 활용하여 모델을 튜닝하고 최적의 성능을 달성할 수 있게 되었습니다.

암호화폐 시절 '내 키가 아니면 내 암호화폐가 아니다'라는 밈이 유행했습니다. 이는 누가 내 암호화폐를 관리해주면 근본적으로 내 것이 아니라는 의미입니다. 이와 유사하게 AI 분야에서는 '내 웨이트가 아니면 내 제품이 아니다'라는 밈을 제시할 수 있습니다. 제품이 진정으로 기업의 것이 되려면, AI 모델의 가중치를 통제하고 관리할 수 있어야 한다는 것이 합리적인 생각입니다. 이는 제품의 핵심 경쟁력을 외부 의존 없이 자체적으로 확보해야 한다는 점을 강조합니다.

중앙 집중형 AI와 분산형 AI에 대한 논의에서, 민주화된 AI 세계에서 일어나는 혁신의 양은 매우 고무적입니다. 특히 애플리케이션 회사들은 가장 새로운 연구소로서 AI 혁신을 주도할 수 있는 큰 기회를 맞고 있습니다. 이는 AI 기술이 특정 대기업에만 국한되지 않고 다양한 기업들에게 확산되면서 새로운 서비스와 제품 개발이 활발해지고 있음을 의미합니다.

소버린 AI는 이진법적 선택이 아니며, 어떤 인텔리전스를 소유하고 어떤 것을 외부에서 조달할지 결정하는 것이 중요합니다. 이를 위한 유용한 프레임워크는 네 가지 중요한 요소를 고려합니다. 첫째는 비용으로, AI 관련 비용이 전체 매출원가에 얼마나 중요한지 파악하는 것입니다. 둘째는 속도와 지연 시간으로, P0(최고 우선순위) 문제인지 평가합니다. 셋째는 성능으로, 이제 오픈 웨이트 모델을 자체 데이터로 튜닝하여 더 나은 성능을 얻을 수 있는 시점이 도래했습니다. 마지막으로 독점 데이터로, 모델 개선에 제공되는 데이터가 비즈니스에 얼마나 독점적인지 판단하는 것입니다.

기업들이 소유와 대여의 균형을 어떻게 결정하는지에 대한 예시로 코딩 분야를 들 수 있습니다. 코딩 에이전트의 경우, 강력한 즉시 사용 가능한 성능이 중요하고 지연 시간이 최고 우선순위가 아니므로 여전히 대부분 대여 방식을 선택합니다. 반면에 코딩의 탭 자동 완성 모델은 속도가 매우 중요하고 API 호출이 빈번하여 비용이 많이 발생하므로, 대부분 소버린 AI로 실행됩니다. 이는 각 기능의 특성과 비즈니스 요구에 따라 다른 전략을 취함을 보여줍니다.

사이버 보안 회사는 속도와 성능, 그리고 매우 맞춤형 방식으로 모델을 사후 학습시킬 수 있는 능력 때문에 자체 모델을 소유합니다. 바이오 기업들은 해당 분야에서 독점 데이터의 가치 때문에 자체 모델로 전환하고 있습니다. 이처럼 산업별 특성과 핵심 경쟁 요소에 따라 AI 기능의 소유 여부가 결정되며, 이는 기업이 어떤 AI 기능을 내재화하고 어떤 기능을 외부에서 조달할지 판단하는 데 유용한 프레임워크가 됩니다.

소버린 AI를 효과적으로 추진하려면 기존의 AI 팀 조직 방식을 재고해야 합니다. 전통적으로 AI 팀은 여러 제품 팀을 지원하는 단일 플랫폼 팀으로 구성된 허브 앤 스포크 방식으로 조직되었으나, 소버린 AI 업무는 이러한 플랫폼 서비스 역량과는 근본적으로 다릅니다. 따라서 처음부터 새롭게 시작하여, 현장 상황에 즉시 대응하고 최전선 수준의 연구를 생산할 수 있는 소규모 데노보(de novo) 팀을 구성하는 것이 좋습니다. 하비(Harvey)처럼 7명으로 구성된 소규모 팀이 많은 연구 성과를 내는 사례가 있으며, 이는 자체 연구소를 설립하는 것도 고려해볼 만하다는 것을 시사합니다.

자체 AI 스택을 소유하는 데 있어 가시성(Legibility)은 흔히 과소평가되지만 매우 중요합니다. 많은 기업이 훌륭한 사내 연구를 수행하고 있음에도 불구하고, 그것이 외부적으로 충분히 가시적이지 않은 경우가 많습니다. 윈스턴 와인버그(Winston Weinberg)는 CEO의 책임 중 하나가 내러티브(이야기)를 통제하는 것, 즉 구축하고 있는 것에 대한 가시성을 통제하는 것이라고 말했습니다. 현재 모든 구매자는 자신의 AI 챔피언을 선택하고 있으며, 어떤 공급업체가 자신을 이끌어 줄 만큼 정교한지 식별하려고 노력합니다. 따라서 자체 연구를 발표하는 등 가시성을 확보하는 것은 필수적입니다.

자체 AI를 성공적으로 구축하려면 기술 마케팅에 투자하는 것이 매우 중요합니다. 자체 브랜드 연구소나 연구 그룹을 만들고, 고품질 연구를 적극적으로 발표하는 등 이 모든 활동이 간과되어서는 안 됩니다. 이는 잠재 고객들에게 기업의 AI 역량을 명확히 보여주고 신뢰를 구축하는 데 결정적인 역할을 합니다. 따라서 모든 기업들은 이 점을 진지하게 고려해야 합니다.

2026년 현재, Kimmy K3와 GLM52 같은 최신 오픈 웨이트 모델이 매우 뛰어나 폐쇄형 API 모델보다 더 뛰어난 성능을 보일 수 있게 되었습니다. 이는 자체 AI 스택을 소유하는 것이 이제 최첨단 수준의 성능을 실제로 구현할 수 있음을 의미하는 다소 새로운 현상입니다. 웨이트가 공개되어 있기 때문에 폐쇄형 API를 사용하는 것보다 훨씬 더 유연하게 조작할 수 있으며, 이를 통해 강력한 사후 학습, 프롬프트 하네스 엔지니어링, 온라인 학습을 통해 최첨단 이상의 성능을 달성할 수 있습니다. 이는 기업들이 자체 인텔리전스 소유를 고려하는 큰 이유 중 하나입니다.

폐쇄형 모델 생태계에서는 전체 스택이 매우 간단합니다. Opus, GPT와 같은 파운데이션 모델과 기본적으로 제공되는 하네스를 활용하여 자체 하네스 구축, 프롬프트 생성, 컨텍스트 제공, 평가 수행 등 다양한 작업을 수행할 수 있습니다. 이 스택은 높은 시작점을 제공하지만, 많은 양의 데이터를 수집하거나 자체 모델을 학습시킬 필요가 없어 자체 데이터를 활용하여 온라인 프로덕션 데이터를 기반으로 인텔리전스를 개선할 수 있는 능력이 부족하다는 낮은 한계점을 가집니다.

자체 인텔리전스를 소유하기 시작하는 순간, 판도라의 상자를 여는 것과 같습니다. 단순한 API 호출 대신 자체 모델을 학습시켜야 하며, 오픈 소스 기반을 선택하고 많은 사후 학습을 수행해야 합니다. 여러 오픈 하네스 중에서 선택하고, 하네스, 로직, 도구, 컨텍스트를 직접 구성해야 하는 등 복잡성이 커집니다. 하지만 이러한 복잡성을 통해 기업은 기본적인 에이전트 사용과 비교했을 때 맞춤형 성능을 극대화하고 자사의 특정 비즈니스 요구에 완벽하게 부합하는 AI 솔루션을 구축할 수 있습니다.

자체 AI를 소유할 때는 프로덕션 스택과 함께 개발 스택의 중요성이 훨씬 커집니다. 인텔리전스가 어떻게 측정되는지 알기 위해 평가를 신중하게 모니터링하고, 프로덕션에서 모델 성능 변화를 지속적으로 관찰해야 합니다. 도메인에 맞는 모델을 사후 학습시키기 위해 고품질의 데이터(전문가 궤적 데이터, 합성 데이터, 강화 학습 환경 등)가 많이 필요합니다. 마지막으로, 시스템을 위한 온라인 학습을 설정하여 모든 사용자 상호 작용마다 인텔리전스가 점점 더 향상되도록 지속적으로 개선해야 합니다. 이 모든 과정이 자체 AI 스택의 성공적인 운영에 필수적입니다.