에이전트 구축 문제 해결을 위한 Vercel의 여정

Vercel의 소프트웨어 최고 책임자인 앤드류 꾸는 내부 엔지니어링 관리 및 외부 실험 주도를 포함하는 자신의 역할을 소개했습니다. 그의 작업은 주로 새로운 라이브러리, 프레임워크 및 최첨단 기술 생성에 중점을 둡니다. Vercel의 핵심 임무는 웹을 위한 필수 인프라를 구축하는 것이며, 이제 에이전트 애플리케이션의 급변하는 분야로 영역을 확장하고 있습니다.

Vercel은 다양한 AI 공급업체 통합 프로세스를 크게 간소화하기 위해 AI SDK를 개발했습니다. 이 혁신을 통해 개발자는 수백 줄의 공급업체별 코드를 단 한 줄로 대체할 수 있으며, 다양한 AI 서비스에서 통합된 모델 인터페이스를 제공합니다. 또한 SDK는 모델 대체, 보안 코드 실행, 향상된 내구성 등 중요한 기능을 통합하여 더욱 강력하고 효율적인 개발 환경을 보장합니다.

앤드류 꾸와 Vercel의 CTO는 빌 게이츠의 '모든 책상에 컴퓨터' 비전에 영감을 받아 '모든 책상에 에이전트'의 가능성을 고려하게 되었습니다. 이러한 개념적 변화는 그들의 초점을 전통적인 코딩 작업량에서 디자인 및 제품 관리와 같은 더 넓은 비즈니스 분야로 확장했습니다. 이 야심찬 프로젝트에 대한 초기 실험은 Sonnet 3.5 출시와 거의 동시에 약 1년 전에 시작되었습니다.

AI 에이전트의 가장 설득력 있는 초기 사용 사례는 Vercel의 데이터 팀에서 나왔습니다. 이 팀은 규모는 작았지만 회사가 빠르게 성장하면서 데이터 볼륨이 폭발적으로 증가하는 문제에 직면했습니다. 마케팅 및 영업 팀은 빈번하게 수동 SQL 쿼리를 요구하여 데이터 과학자들에게 상당한 의존성을 만들었습니다. 이러한 수동 작업량과 지속적인 요청 스트림은 전반적인 개발자 생산성을 심각하게 저해하고 운영의 병목 현상을 초래했습니다.

앤드류 꾸는 전체 Snowflake 데이터베이스 스키마를 시스템 프롬프트에 붙여넣고 특정 질문을 한 다음 '메가 프롬프트'를 사용하여 초기 실험을 수행했습니다. 그런 다음 모델은 SQL을 생성했으며, 앤드류는 이를 수동으로 복사하여 실행하여 유효성을 테스트했습니다. 이 개념 증명은 기본 모델이 SQL을 생성할 수 있지만 실제 시나리오에서 효과적이고 안정적으로 작동하려면 훨씬 더 나은 컨텍스트와 강력한 안전 장치가 필요하다는 것을 보여주었습니다.

앤드류 꾸는 질문에 답할 때 데이터 과학자의 일반적인 워크플로우를 개별적이고 에이전트적인 단계로 나누어 설명했습니다. 첫 번째 단계는 자연어 질문을 처리하여 의도와 범위를 이해하는 것입니다. 이어서 데이터 과학자는 의미론적 계층을 탐색하여 관련 데이터 테이블을 식별하고 조인 패턴을 이해해야 합니다. 마지막으로, SQL 쿼리 실행 및 결과를 분석하여 답변을 제공하는 것으로 프로세스가 마무리됩니다.

Vercel은 데이터 과학 작업을 쿼리, 계획, 실행 에이전트를 포함한 특정 에이전트 역할에 매핑하여 D0이라는 다중 에이전트 워크로드 전략으로 전환했습니다. D0의 버전 2는 연결된 시퀀스 내의 각 에이전트에 대해 특수 시스템 프롬프트와 정확하게 범위가 지정된 도구를 활용했습니다. 이 접근 방식은 사용자 질문에서 최종 보고서 생성에 이르는 전체 프로세스를 간소화하여 엔드투엔드 자동화를 달성했습니다.

Vercel은 연결된 에이전트 아키텍처에서 특히 에이전트 간 핸드오프 중 정보 손실과 관련된 중요한 한계를 발견했습니다. 이로 인해 계획, 구축 및 실행 단계 전반에 걸쳐 자체 메모리와 내부 상태를 관리할 수 있는 단일 '메가 에이전트'가 필요하다는 결론에 도달했습니다. 이 메가 에이전트 접근 방식은 자기 성찰과 실행 중 오류가 발생할 경우 자율적으로 작업을 다시 시도할 수 있는 기능을 허용했습니다. 단일 에이전트 내의 중앙 집중식 컨텍스트 및 메모리 관리는 복잡한 다단계 작업에 더 효과적인 것으로 입증되었습니다.

Vercel의 내부 테스트는 평가에서 30%의 성공률을 나타내어 고급 에이전트 시스템에 대한 높은 확신을 주었습니다. 그러나 시스템이 소수의 신뢰할 수 있는 사용자 그룹에 배포되었을 때 피드백은 '끔찍하다'는 압도적으로 부정적이었습니다. 이러한 불일치는 실제 사용자 쿼리의 복잡성과 다양성이 예상보다 훨씬 크다는 '현실 격차'를 드러냈습니다. 시나리오의 수동 매핑은 내부 테스트에는 효과적이었지만 실제 사용자 상호 작용의 예측 불가능한 복잡성을 처리하기에는 확장 불가능하고 불충분한 것으로 입증되었습니다.

Vercel은 Claude Code 및 Opus 4.5 에이전트가 환경을 단순한 파일 시스템으로 취급함으로써 내부적으로 개발된 '자체 개발' 에이전트보다 뛰어난 성능을 발휘한다는 것을 관찰하면서 중요한 돌파구를 마련했습니다. 이 접근 방식은 처방적인 도구 세트의 필요성을 최소화하고 읽기, 쓰기, bash 명령 실행과 같은 기본적인 기능만 제공했습니다. 에이전트가 표준적이고 기본적인 도구를 사용하여 '자유롭게 작동'하도록 허용하면 더 효과적이고 유연한 동작이 나타난다는 것을 깨달았습니다. 엄격하게 제어되고 고도로 특정한 도구 세트에서 보다 개방적인 파일 시스템 기반 상호 작용 모델로의 전환은 우수한 성능과 적응성을 잠금 해제했습니다. 에이전트에게 기본적인 파일 작업을 통해 환경을 탐색하고 상호 작용할 자유를 줌으로써 Vercel은 문제 해결 능력의 극적인 향상을 목격했습니다. 이 패러다임은 덜 처방적인 지침과 더 많은 환경적 에이전시가 사전 프로그래밍된 솔루션보다는 자율적 동작을 통해 예기치 않은 복잡성을 처리할 수 있는 더 강력하고 다재다능한 AI 에이전트로 이어질 수 있음을 보여주었습니다.

Vercel은 내구성과 격리된 환경에서 에이전트를 실행할 수 있는 능력에 중점을 두어 Eve 에이전트 런타임을 설계했습니다. 이 아키텍처는 오픈 소스 호환성을 보장하며, Postgres, Docker, OpenAI와 같은 다양한 기술에 대한 어댑터를 제공합니다. Eve는 또한 Vercel Workflows, Sandbox 및 Vercel Connect에 대한 내장 지원을 포함하여 기존 Vercel 에코시스템으로의 통합을 간소화합니다.

Eve 플랫폼은 에이전트 코드를 더 깔끔하고 간소화된 파일 구조로 구성하여 에이전트 개발을 크게 간소화합니다. 이 구조는 명확한 시스템 지침, 정의된 기술 세트 및 특정 도구로 구성되어 개발자가 실제 에이전트를 구성하고 구축하기 쉽게 만듭니다. 이 모듈식 접근 방식은 또한 반복을 크게 용이하게 하여 에이전트 동작 및 기능을 빠르고 효율적으로 조정할 수 있도록 합니다.

아우라는 웹사이트를 방문하고 애플리케이션을 설치하며 사용을 시도하여 다양한 서비스를 테스트하도록 설계된 맞춤형 '미니 클로' 에이전트를 성공적으로 구현했습니다. 이 맞춤형 솔루션은 일반적인 기성 클라우드 솔루션에 비해 더 나은 성공률을 보였습니다. 아우라 에이전트는 운영 프로세스에서 더 적은 단계로 서비스 성능에 대한 더 깊은 통찰력을 제공하여 맞춤형 에이전트 개발의 장점을 강조했습니다.

Eve로 구축된 에이전트가 Vercel에 배포되면 개발자는 즉시 사용 가능한 관찰 가능성 기능에 즉시 액세스할 수 있습니다. 여기에는 모든 에이전트 실행에 대한 포괄적인 추적과 에이전트가 수행한 모든 도구 호출에 대한 자세한 가시성이 포함됩니다. 이 플랫폼은 또한 단계별 실행 통찰력과 비용 추정치를 제공하며, 사용 패턴을 기반으로 최적화를 위한 잠재적인 제안을 통해 모니터링 및 관리를 간소화합니다.

Vercel은 기성 에이전트가 종종 깊이 있는 도메인 컨텍스트 부족으로 인해 제한되어 전문 작업에 덜 효과적이라는 것을 발견했습니다. 에이전트의 진정한 성공은 매우 구체적인 회사 지식 통합에 크게 의존한다고 주장합니다. 이러한 통찰력으로 인해 Vercel은 복잡한 데이터 쿼리 및 엄격한 법률 계약 검토를 포함하여 일반 솔루션이 효과적으로 처리할 수 없는 다양한 내부 작업을 위한 전문 에이전트를 개발하게 되었습니다. 궁극적으로 Vercel은 효율성을 극대화하고 최상의 결과를 얻기 위해 기업은 고유한 운영 요구 사항 및 독점 정보에 맞춰 자체 에이전트를 구축해야 한다고 결론지었습니다.

AI 에이전트 구현은 Vercel의 데이터 팀 생산성을 크게 향상시켰습니다. 일상적인 작업을 자동화함으로써 직원들은 이제 Snowflake 성능 개선 및 이전에 누락된 데이터 소스 추가와 같은 전략적 이니셔티브에 집중할 시간을 더 많이 갖게 되었습니다. 수동 쿼리 처리에서 고차원 작업으로의 이러한 전환은 인사, 재무, 영업을 포함한 다양한 부서에서 인간의 재능을 최적화하기 위한 이러한 자동화의 광범위한 잠재력을 보여줍니다.