Decagon, “오픈소스 AI와 프론트-디플로이드 엔지니어링으로 기업 AI 구축 가속화”

Decagon 공동 창립자들은 이 주제가 현재 가장 뜨거운 논의 대상임을 지적하며, 각 사용 사례에 따라 모델 선택이 기업의 AI 전략에 미치는 영향을 강조했습니다. 기업들은 AI 에이전트를 통해 고객 지원, 영업, 운영 워크플로우를 자동화하는 과정에서, 이 두 가지 모델 유형 중 어떤 것을 선택해야 할지에 대한 고민에 직면해 있습니다. 모델 선택은 단순히 기술적 성능을 넘어, 비용 효율성, 레이턴시, 그리고 궁극적으로는 기업의 AI 경쟁력에 직결되기 때문에 신중한 접근이 필요합니다.

오픈소스 모델은 개발 비용 절감과 유연성 측면에서 강점을 가지지만, 특정 사용 사례에 대한 최적화나 보안 문제에 대한 우려가 제기되기도 합니다. 반면 클로즈드소스 모델은 높은 성능과 안정성, 그리고 전문적인 지원을 제공하지만, 높은 비용과 공급업체 종속성 문제가 단점으로 꼽힙니다. 이러한 장단점은 기업들이 AI 솔루션을 도입할 때 중요한 의사결정 요소로 작용합니다.

지난 1년간 오픈소스 모델을 활용하여 음성 에이전트의 음질과 사용자 경험을 크게 개선했으며, 동시에 높은 정확도를 유지했습니다. 나머지 10%의 워크플로우에서는 여전히 클로즈드소스 모델과 프론티어 모델을 사용하고 있는데, 이는 주로 신규 프로젝트나 신제품 개발에 활용됩니다. 이 같은 전환은 특정 작업에서 오픈소스 모델이 클로즈드소스 모델 못지않은, 혹은 그 이상의 효율성을 제공할 수 있음을 보여줍니다.

Ashwin Sreenivas는 작은 모델이나 덜 지능적인 모델을 미세 조정할 경우, 이들이 범용성은 떨어지지만 특정 작업에서는 크고 똑똑한 최첨단 모델보다 뛰어난 성능을 보일 수 있다고 설명했습니다. 이는 결국 더 나은 성능, 더 저렴한 비용, 더 빠른 속도라는 세 가지 이점을 모두 얻을 수 있음을 의미합니다. Decagon의 이러한 접근 방식은 AI 모델 선택에 있어 무조건적인 '지능' 추구보다는, 특정 사용 사례에 대한 '최적화'가 중요함을 시사합니다.

Jesse Zhang은 특정 사용 사례가 확고해지고 대규모로 제품화되면, 레이턴시와 비용 절감 효과를 고려할 때 오픈소스 모델을 사용하지 않을 이유가 없다고 설명했습니다. 그러나 새로운 기술이나 실험적인 분야, 또는 고도의 지능이 필수적인 제품의 경우에는 여전히 프론티어 모델이 사용될 것으로 보았습니다. 이는 프론티어 모델이 사용하기 훨씬 쉽기 때문이라고 덧붙였습니다.

이러한 관점은 기업들이 AI 도입 초기에는 프론티어 모델을 통해 빠른 실험과 검증을 진행하고, 특정 기능이 안정화되고 규모가 커질수록 오픈소스 모델로 전환하여 효율성을 극대화하는 전략을 취할 것임을 시사합니다. 결국 기술 성숙도와 비즈니스 요구사항에 따라 모델 선택이 달라질 수 있음을 보여주는 대목입니다.

Decagon의 이러한 예측은 기업들이 AI 기술 스택을 구성할 때 단일 모델에 의존하기보다, 다양한 모델의 장단점을 고려하여 유연하게 접근해야 함을 강조합니다. 특히 비용 효율성과 성능 최적화라는 두 마리 토끼를 잡기 위해서는 오픈소스 모델의 적극적인 활용이 중요해질 것이라는 전망입니다.

Ashwin Sreenivas는 오픈소스 모델 미세 조정 시, 내부적으로 구축한 툴링이 고객 결과에 명확하게 맞춰져 있다면 시간 경과에 따른 손실 곡선을 보는 것보다 훨씬 낫다고 설명했습니다. 이는 단순히 특정 작업의 성능을 평가하는 것을 넘어, 전체 시스템이 엔드투엔드로 제대로 작동하는지를 측정하는 데 중점을 둔 결과입니다.

이러한 접근 방식은 Decagon이 고객에게 최적화된 AI 솔루션을 제공하기 위해 모델 훈련 과정부터 철저하게 자체 제어하려는 전략을 보여줍니다. 외부 솔루션에 의존하기보다 내부 역량을 강화하여, 보다 정교하고 비즈니스에 특화된 모델을 개발하려는 의지로 해석됩니다.

결국 Decagon은 모델 훈련 인프라를 직접 구축함으로써, 고객의 실제 비즈니스 목표와 연계된 평가 지표를 설정하고, 이를 바탕으로 모델을 지속적으로 개선해 나가는 체계를 마련했다고 볼 수 있습니다. 이는 AI 에이전트의 실제 적용 가능성과 효과를 극대화하는 데 중요한 역할을 합니다.

Decagon은 이미 오픈소스 모델을 활용하여 문제를 분해하고, 모델을 구축, 훈련, 배포하는 방법을 숙지하고 있기 때문에, 이 단계에서는 비용 문제가 훨씬 덜 중요하다고 설명했습니다. 그러나 여전히 프론티어 모델을 사용하는 기업들에게는 토크노믹스를 고민하는 것이 합리적일 수 있다고 덧붙였습니다.

이는 Decagon이 오픈소스 모델의 장점을 최대한 활용하여 기술적 역량을 확보하고, 이를 통해 고객에게 최적의 솔루션을 제공하는 데 주력하고 있음을 시사합니다. 즉, 현재 Decagon에게는 비용 절감보다 고객에게 가치를 제공하는 것이 더 우선순위에 있다는 전략적 판단으로 해석됩니다.

이러한 접근 방식은 초기 성장 단계의 AI 기업이 제한된 자원을 어디에 집중해야 하는지에 대한 하나의 관점을 제시합니다. Decagon은 토크노믹스와 같은 새로운 경제 모델보다는, 핵심 기술 개발과 고객 가치 창출에 집중함으로써 시장에서 입지를 다지고자 하는 것으로 보입니다.

AI 에이전트를 자체 구축하는 경우, 기업은 모델 미세 조정, 비즈니스 로직 캡처를 위한 소프트웨어 스택 구축 등 광범위한 플랫폼 관리 노력이 필요합니다. 이는 결국 기업의 핵심 역량에서 벗어나 불필요한 자원 소모를 초래할 수 있습니다.

Decagon은 기업들이 전문 AI 앱 회사와 협력함으로써, 이미 미세 조정된 모델과 비즈니스 로직을 효율적으로 활용할 수 있다고 설명했습니다. 이러한 협력은 기업이 AI 기술의 복잡성을 직접 관리할 필요 없이, 핵심 비즈니스에 집중하면서도 AI의 이점을 최대한 누릴 수 있도록 돕습니다.

이러한 주장은 AI 기술이 고도화될수록 특정 분야에 특화된 전문 솔루션의 중요성이 커질 것임을 시사합니다. 모든 기업이 AI 기술 스택을 처음부터 끝까지 구축하고 유지보수하기는 현실적으로 어렵기 때문에, Decagon과 같은 전문 AI 기업의 역할이 더욱 중요해질 것이라는 관점입니다.

결론적으로 Decagon은 기업의 AI 도입 전략에 있어 '내부 구축'보다는 '외부 협력'이 장기적인 효율성과 성공을 위한 더 현명한 선택이라고 제안하고 있습니다. 이는 기업들이 AI 시대를 맞아 자원 배분과 파트너십 전략을 재고해야 함을 의미합니다.

Jesse Zhang은 프론트-디플로이드 엔지니어의 역할이 기업과 협력하여 현재 제품이 제공하지 않는 것을 파악하고, 그 결과물이 특정 고객만을 위한 일회성 작업이 아닌, 다음 10개의 고객에게도 무료로 제공될 수 있는 핵심 제품에 기여하는 것이어야 한다고 설명했습니다.

이는 Decagon이 고객 현장에서 얻은 통찰력을 바탕으로 범용적으로 활용 가능한 제품 기능을 개발하는 데 중점을 두고 있음을 보여줍니다. 즉, 개별 고객의 요구사항을 해결하는 동시에, 이를 통해 제품의 경쟁력을 높이고 확장 가능한 비즈니스 모델을 구축하려는 전략입니다.

이러한 접근 방식은 고객과의 긴밀한 협력을 통해 얻은 현장 경험이 제품 개발의 중요한 동력이 될 수 있음을 시사합니다. Decagon은 프론트-디플로이드 엔지니어를 단순한 '배포' 인력이 아닌, '제품 혁신'의 핵심 주체로 보고 있는 것입니다.

Decagon은 단순히 제품만 개발하는 것이 아니라, 영업팀이 고객과 긴밀하게 협력하면서 얻은 모든 노하우를 핵심 제품에 반영하는 시스템을 구축했습니다. 이는 고객 현장의 목소리를 제품에 직접 연결함으로써, 고객 니즈에 부합하는 솔루션을 제공하려는 노력의 일환입니다.

이러한 협력 체계는 제품 개발 과정에서 발생할 수 있는 시장과의 괴리를 최소화하고, 실제 고객에게 가치를 제공하는 기능을 우선적으로 개발하는 데 기여합니다. 영업팀은 단순한 판매를 넘어, 제품의 방향성을 제시하고 개선점을 발견하는 중요한 역할을 수행합니다.

Decagon의 이러한 전략은 고객 중심의 제품 개발 문화를 보여주며, 빠르게 변화하는 AI 시장에서 고객의 요구에 민첩하게 대응하는 능력을 강화합니다. 영업과 제품 개발 간의 시너지를 통해 혁신적인 AI 솔루션을 지속적으로 선보이려는 Decagon의 의지를 엿볼 수 있습니다.

결론적으로 Decagon은 제품 개발과 영업 활동을 분리된 기능으로 보지 않고, 상호 보완적인 관계로 설정함으로써 기업의 전체적인 경쟁력을 높이고 있습니다. 이는 현대 기술 기업이 성공하기 위해 필요한 유기적인 조직 운영 방식을 잘 보여줍니다.

이는 고객 현장에서 발생하는 다양한 문제 해결 경험과 노하우를 일반화하고 자동화된 제품 기능으로 구현함으로써, 인력 의존도를 줄이고 효율성을 극대화하려는 Decagon의 전략입니다. 즉, 특정 인력이 반복적으로 수행하는 작업을 제품의 기능으로 흡수하여, 더 많은 고객이 동일한 가치를 누릴 수 있도록 하는 것입니다.

이러한 접근 방식은 Decagon이 스케일업(Scale-up)을 추진하는 데 있어 중요한 역할을 합니다. 소수의 전문가가 제공하던 서비스를 제품을 통해 대규모로 제공함으로써, 인력 증대 없이도 더 많은 고객을 확보하고 서비스를 확장할 수 있습니다.

궁극적으로 Decagon은 이러한 제품화를 통해 고객에게 일관되고 신뢰할 수 있는 서비스를 제공하고, 내부적으로는 엔지니어링 리소스를 더욱 고도화된 문제 해결과 혁신적인 제품 개발에 집중할 수 있게 됩니다.

고객은 Sierra와 협력할 때 대부분 전방 배치 인력에 의존해야 했고, 모든 과정이 불투명하게 느껴졌다고 합니다. 전방 배치 인력들은 유능했지만, 새로운 여정을 구축하거나 대화 내용을 깊이 이해하기 위해 그들을 거쳐야만 했고, 시간이 지남에 따라 이는 속도를 늦추는 큰 걸림돌이 되었습니다. 이러한 불투명성은 고객이 스스로 AI 솔루션을 제어하고 최적화하는 데 한계를 느끼게 했으며, 결국 Decagon으로의 전환을 이끌었습니다.

Jesse Zhang은 자신과 Ashwin Sreenivas가 이전에 엔터프라이즈 제품 판매 경험이 없었음에도 불구하고, 빠르게 학습하며 시장의 뜨거운 관심 덕분에 많은 부분이 자연스럽게 진행되었다고 말했습니다. Decagon은 이제 기업들에게 AI에 투자해야 한다고 설득하기보다, 자신들의 접근 방식이 고객에게 가장 적합하다는 점을 강조하는 데 집중하고 있습니다.

엔터프라이즈 판매에서 가장 중요한 것은 조직을 탐색하고, 그들이 무엇을 가치 있게 여기며 무엇을 두려워하는지 진정으로 공감하는 것이라고 Decagon은 강조합니다. 이는 단순한 제품 기능 설명이 아니라, 고객의 비즈니스 맥락과 감성적인 부분을 이해하는 데서 판매의 성공이 시작된다는 철학을 반영합니다.

이러한 전략은 Decagon이 고객과의 장기적인 관계 구축을 목표로 하며, 단기적인 판매 성과보다는 고객의 성공을 우선시하는 접근 방식을 취하고 있음을 보여줍니다. 기업용 AI 솔루션이 단순히 기술적 우수성만으로는 성공하기 어렵다는 점을 Decagon은 잘 이해하고 있는 것입니다.

결론적으로 Decagon은 고객의 복잡한 니즈와 우려를 깊이 이해하는 공감 능력을 엔터프라이즈 판매의 핵심 역량으로 삼아 시장을 공략하고 있습니다. 이는 기술 중심의 판매를 넘어선 고도화된 영업 전략으로 평가됩니다.

이는 Decagon이 단순히 고객 문의에 응대하는 수준을 넘어, 고객의 다양한 요구사항을 예측하고 능동적으로 해결하는 종합적인 AI 에이전트 서비스로 진화하고 있음을 시사합니다. AI 비서는 단순 반복 업무 자동화를 넘어, 전략적 의사결정을 돕고 비즈니스 프로세스 전반에 걸쳐 가치를 창출하는 역할을 수행할 수 있습니다.

이러한 비전 확장은 Decagon의 제품팀과 영업팀 모두에게 새로운 도전과 기회를 제공합니다. 제품팀은 더 복잡하고 지능적인 AI 에이전트를 개발해야 하며, 영업팀은 고객에게 단순한 솔루션이 아닌 '비서'로서의 AI 가치를 설득해야 합니다.

Decagon의 이러한 변화는 AI 기술의 발전과 함께 기업의 AI 활용 범위가 얼마나 빠르게 넓어지고 있는지를 잘 보여주는 사례입니다. 미래에는 AI가 기업 운영의 핵심 동반자로서 더욱 깊이 관여하게 될 것이라는 전망을 뒷받침합니다.

Jesse Zhang은 상황이 너무 빠르게 변하기 때문에 12개월 로드맵을 정확히 세우기가 매우 어렵다고 설명했습니다. 대신, 특정 주제에 대한 구축 목표는 있을 수 있지만, 이상적으로는 그런 목표가 있다면 지금 바로 구축해야 한다고 강조했습니다. 이는 현재 AI 기술을 통해 매우 빠르게 제품을 개발할 수 있기 때문입니다.

Decagon은 '비서(concierge)'라는 용어를 사용하며, AI 에이전트가 비즈니스 또는 브랜드의 현관이 되어 고객과의 모든 상호작용을 처리해야 한다는 장기적인 비전을 가지고 있습니다. 이는 반응적인 상호작용뿐만 아니라 능동적인 상호작용까지 AI가 담당해야 한다는 의미입니다.

Jesse Zhang은 모두가 AI 도구에 접근할 수 있기 때문에, 경쟁사들이 이를 활용해 더 많은 것을 구축한다면 Decagon 역시 더 많은 것을 구축해야 한다고 설명했습니다. 경쟁사들이 로드맵을 단축하고 채용을 중단한다면, Decagon은 그들이 3배 더 많은 것을 만들 수 있다고 생각할 것이기 때문에, 모두가 똑같은 계산을 하고 더 많이 채용하고 더 많이 변화해야 한다고 말했습니다.

이는 AI 기술이 생산성을 크게 향상시킬 수 있지만, 동시에 모든 기업이 같은 기술을 활용할 수 있다는 점에서 경쟁의 강도가 더욱 높아진다는 것을 의미합니다. 결국 기술 도구만으로는 차별화가 어렵고, 이를 효과적으로 활용하고 혁신을 이끌어낼 수 있는 인재의 확보가 여전히 중요하다는 Decagon의 인식을 보여줍니다.

Decagon은 AI 모델의 소비자들에게는 좋은 일이지만, 회사의 채용 계획을 실질적으로 바꾸지는 않았다고 덧붙였습니다. 즉, AI 기술의 발전이 인력의 필요성을 줄이는 것이 아니라, 오히려 새로운 차원의 역량을 가진 인재를 더 많이 요구하게 만든다는 관점입니다.

Jesse Zhang은 이러한 문제는 아직 해결되지 않은 과제이며, 회사가 다음 단계로 나아갈 때마다 문화를 이해하고 높은 책임감을 유지하기 위해 새로운 제도들을 도입해야 한다고 설명했습니다. 성장에 따른 압박감이 있지만, 이는 당연히 겪어야 할 일이라고 덧붙였습니다.

특히, 처음 100명까지는 서로를 잘 알기 때문에 문화적 문제가 크지 않지만, 규모가 커지면 비전이나 문화가 제대로 전달되지 않은 직원들이 생길 수 있다고 지적했습니다. 이는 Decagon이 단순히 물리적인 확장을 넘어, 조직의 핵심 가치와 비전을 전 세계 직원들에게 일관되게 전달하는 것의 중요성을 인식하고 있음을 보여줍니다.

Decagon은 성장 과정에서 발생하는 이러한 문화적 과제들을 더욱 잘 해결해나가야 할 부분으로 보고 있으며, 이를 통해 글로벌 기업으로서의 단단한 기반을 다지려는 의지를 드러냈습니다. 인력과 조직의 확장이 회사의 본질적인 가치를 훼손하지 않도록 신중하게 접근하고 있습니다.

Ashwin Sreenivas는 AI 컨시어지 서비스의 궁극적인 목표가 개인화된 대우에 대한 접근성을 민주화하는 것이라고 설명했습니다. 예를 들어, 연간 10만 달러를 쓰는 고객은 가장 개인화된 서비스를 받겠지만, 10달러를 쓰는 고객에게는 경제성 때문에 동일한 서비스를 제공하기 어렵습니다. 그러나 AI를 통해 10센트로도 그러한 경험을 제공할 수 있다면, 갑자기 경제적으로 가능해지고 고객들은 이를 원할 것이라고 보았습니다.

CRM이 사라질 것이냐는 질문에 대해 Ashwin Sreenivas는 '아니오'라고 단호히 답했습니다. 그는 오늘날 사람이 컨시어지 역할을 하는 회사들도 나중에 추적할 수 있도록 정보를 CRM에 기록한다고 지적했습니다. AI 에이전트들 역시 정보를 기록할 곳이 필요하며, 이러한 보조 소프트웨어들이 사라질 것이라고 생각하지 않는다고 강조했습니다. AI 컨시어지 서비스를 구축할 때 목표는 훌륭한 경험을 만드는 것이지만, 여전히 그 데이터를 저장할 장소가 필요하다는 것입니다.

이는 AI가 고객 서비스의 최전선을 담당하더라도, 고객 데이터 관리와 관계 추적이라는 CRM의 본질적인 기능은 변하지 않는다는 Decagon의 관점을 보여줍니다. 오히려 AI가 더 많은 고객 접점에서 데이터를 생성하게 되면서, CRM의 역할이 더욱 중요해질 수 있음을 시사합니다.

결론적으로 Decagon은 AI와 기존 시스템이 상호 보완적으로 작동하며, AI가 새로운 가치를 창출하는 동시에 기존 인프라의 중요성도 함께 증대될 것이라는 균형 잡힌 시각을 제시합니다.

이 에이전트는 Jesse Zhang의 옆에서 채용해야 할 사람, 진행 중인 계약, 문제점, 현재 당면 과제 등 개인 비즈니스와 관련된 모든 컨텍스트를 지속적으로 정리해 줍니다. 예를 들어, 새로운 채용 후보에 대해 에이전트에게 물어보면, 에이전트는 이미 비슷한 후보들의 단점이나 부족한 기술을 알고 있어 보완적인 인력이 필요하다고 조언해 줍니다. 또한, 특정 딜에서 충분히 빨리 검증하지 못해 비슷한 실수를 반복할 수 있으니 이번에는 더 빨리 검증해야 한다고 조언하기도 합니다.

이러한 개인 AI 에이전트는 Jesse Zhang이 정보의 홍수 속에서 중요한 의사결정을 내릴 때 핵심적인 조언을 제공하는 역할을 합니다. 이는 단순히 데이터를 요약하는 것을 넘어, 과거의 경험과 현재의 상황을 연결하여 미래 지향적인 통찰력을 제공하는 고도화된 AI 활용 사례입니다.

Decagon CEO의 이러한 사례는 AI 에이전트가 기업의 리더들에게 얼마나 강력한 도구가 될 수 있는지를 실제적으로 보여줍니다. 개인화된 AI 비서가 업무 효율성을 극대화하고 전략적 의사결정을 지원하는 미래 비즈니스 환경을 엿볼 수 있습니다.

결론적으로 Jesse Zhang의 개인 AI 에이전트 활용은 Decagon이 추구하는 'AI 비서' 비전의 축소판이라고 할 수 있습니다. 기업의 모든 구성원이 각자의 역할에 최적화된 AI 비서를 활용하여 업무 능력을 향상시키는 미래가 머지않았음을 시사합니다.