Uber의 Agentic SDLC, AI 기반 자동화로 소프트웨어 개발 혁신

Uber의 엔지니어링 운영은 12개 글로벌 기술 사이트에 걸쳐 수천 명의 엔지니어를 포함하며, 이는 소프트웨어 개발 환경의 거대한 규모와 복잡성을 보여줍니다. 이 분산된 인력은 일관된 생산성과 협업을 보장하기 위해 고효율적이고 확장 가능한 도구를 필요로 합니다.

Uday Kiran Medisetty는 "저희는 12개 글로벌 기술 사이트에 걸쳐 수천 명의 엔지니어를 보유하고 있습니다."라고 말했습니다.

Agentic AI는 Uber의 개발 워크플로를 혁신하여, 현재 풀 리퀘스트의 70% 이상이 로컬 또는 클라우드 에이전트에 의해 생성되고 있습니다. 이러한 자동화는 엔지니어당 코드 라인 수가 전년 대비 두 배로 증가하는 놀라운 결과를 가져왔으며, 이는 개발자 생산성에 미치는 심오한 영향을 보여줍니다.

이러한 변화는 또한 250개의 자동 마이그레이션을 통해 수동 작업을 줄였으며, 900만 라인의 코드를 성공적으로 자동 마이그레이션했습니다. Uday Kiran Medisetty는 "저희가 Agentic AI에 투자한 모든 것들이 이제 저희 PR의 70% 이상이 로컬 또는 클라우드 에이전트에 의해 이루어지도록 이끌었습니다. 그리고 이 모든 것이 엔지니어당 코드 라인 수를 전년 대비 두 배로 늘렸습니다."라고 언급했습니다.

Uber의 Agentic AI 성공은 지난 6년간 이루어진 전략적 인프라 투자에 뿌리를 두고 있습니다. 모노리포로의 전환과 Bazel 채택은 SDLC에 AI를 통합하는 데 필수적인 강력하고 확장 가능한 기반을 제공했습니다.

이러한 근본적인 변화는 AI 도구가 다양한 프로젝트와 팀에 걸쳐 효과적으로 배포되고 통합될 수 있는 환경을 조성했습니다. Uday Kiran Medisetty는 "지난 6년간 모노리포로 전환하고 Bazel로 이동하는 데 투자한 모든 것이 이러한 가속화를 위한 매우 견고한 기반을 마련했습니다."라고 설명했습니다.

Uber의 중앙 모델 게이트웨이는 보안, 성능 및 책임성을 보장하기 위한 세 가지 중요한 원칙을 가지고 설계되었습니다. 첫째, PII(개인 식별 정보)가 Uber 경계를 벗어나지 않도록 엄격하게 방지하여 기본적으로 사용자 데이터를 보호합니다.

둘째, 게이트웨이에 추가되는 모든 가드레일은 성능에 영향을 미치지 않도록 엄격한 대기 시간 범위 내에서 작동해야 합니다. 마지막으로, 게이트웨이를 통해 처리되는 모든 요청은 사용자, 프로젝트 및 팀별로 귀속 가능해야 하며, 투명성과 추적성을 제공해야 합니다. Uday Kiran Medisetty는 "우리가 보장하고자 했던 세 가지는 기본적으로 PII가 절대 우리 경계를 벗어나 어떤 벤더에게도 유출되지 않도록 하는 것이었습니다. 그리고 여기에 추가하는 모든 가드레일의 대기 시간은 엄격하게 제한되며, 이를 통과하는 모든 요청은 사용자, 프로젝트, 팀별로 귀속될 수 있어야 합니다."라고 요약했습니다.

Uber 모델 게이트웨이는 정교한 미들웨어 스택을 사용하여 AI 요청을 효율적이고 안전하게 처리하며, 100밀리초 미만으로 작업을 완료합니다. Spire를 통한 신원 및 인증으로 시작하여 각 요청에 대한 보안 액세스 및 책임성을 보장합니다.

인증 후 데이터 익명화 도구는 20가지 이상의 PII 유형을 수정하여 민감한 정보를 보호합니다. 이 게이트웨이에는 다양한 안전 및 정책 지침을 시행하는 5개의 전문 모델을 갖춘 AI 가드도 포함되어 있습니다. Uday Kiran Medisetty는 "일련의 미들웨어를 통과합니다. 첫 번째는 Spire를 사용하는 신원 및 인증입니다. 우리는 20가지 이상의 PII 유형을 수정하는 데이터 익명화 도구를 가지고 있습니다. 우리는 우리가 보장하고자 하는 안전 및 정책의 다양한 부분을 처리하는 5개의 전문 모델을 가진 AI 가드를 가지고 있습니다. 이 모든 것이 100밀리초 미만으로 실행됩니다."라고 명시했습니다.

Uber 모델 게이트웨이는 인상적인 규모로 작동하며, 현재 800개 이상의 내부 프로젝트에 서비스를 제공하고 있습니다. 누적적으로 하루에 1억 건 이상의 모델 요청을 관리하며, Uber의 AI 인프라에서 중요한 역할을 하고 있음을 보여줍니다.

이 게이트웨이는 최첨단 솔루션과 오픈 소스 솔루션을 포함한 다양한 모델을 지원하여 회사의 다양한 AI 이니셔티브에 걸쳐 유연성과 광범위한 유틸리티를 제공합니다. Uday Kiran Medisetty는 "오늘날 우리는 이 시스템을 통해 내부적으로 800개 이상의 프로젝트를 운영하고 있으며, 하루에 1억 건 이상의 모델 요청을 누적적으로 처리하고 있습니다."라고 말했습니다.

Uber의 MCP(Managed Compute Platform) 게이트웨이는 통합 허브 역할을 하여 에이전트가 내부 API 및 외부 SaaS 도구와 상호 작용하는 방식을 간소화합니다. 엔지니어를 위한 다양한 미들웨어 기능을 통합하여 통합 프로세스를 간소화합니다.

자동화된 크롤러는 핵심 구성 요소로, 단일 구성 변경만으로 내부 API를 MCP로 자동 변환하여 수동 작업을 크게 줄입니다. 이 게이트웨이는 Slack 및 Jira와 같은 인기 있는 SaaS 도구에 대한 통합 토큰 교환 메커니즘도 제공하여 원활한 에이전트 액세스를 가능하게 합니다.

이 중앙 집중식 접근 방식은 에이전트가 다양한 내부 및 외부 리소스에 액세스하고 활용하는 방식의 일관성과 효율성을 보장합니다.

Uday Kiran Medisetty는 "엔지니어를 위한 모든 미들웨어를 처리하는 MCP 게이트웨이가 있습니다. 그리고 내부 API를 살펴보고 단일 구성 변경으로 이 모든 것을 MCP에 투영하는 자동화된 크롤러가 있습니다."라고 설명했습니다.

Uber는 CI(Continuous Integration)에 코드를 푸시하기 전 개발의 초기 단계인 '내부 루프'로 기능 검증을 옮겨 SDLC를 최적화하고 있습니다. 이 선제적인 접근 방식은 문제를 조기에 식별하고 해결하여 CI 시스템의 부하를 줄이는 것을 목표로 합니다.

기능을 더 일찍 검증함으로써 엔지니어는 CI 실패와 관련된 지연 및 리소스 소비를 피할 수 있습니다. Uday Kiran Medisetty는 "CI에 푸시하기 전에 더 빨리 검증할 수 있다면 큰 이점이 될 것입니다."라고 강조했습니다.

내부 루프에는 이제 코드 품질 문제를 식별하기 위한 정적 분석 및 시각적 검증과 같은 자동화된 검사가 포함됩니다. 시각적 검증을 위해 특정 스킬로 시뮬레이터가 실행되고 스크린샷이 캡처됩니다.

이 스크린샷은 Figma 사양과 비교하여 UI 일관성과 정확성을 보장합니다. 이 초기 검증에는 백엔드 및 프론트엔드 통합 테스트도 포함되어 외부 시스템이 개입하기 전에 포괄적인 검사를 허용합니다. Uday Kiran Medisetty는 "시각적 검증과 같은 것들입니다. 그래서 스킬을 사용하여 시뮬레이터를 실행하고, 시뮬레이터에서 스크린샷을 찍어 Figma 사양과 비교할 수 있습니다."라고 예를 들었습니다.

Uber는 지속적인 통합 프로세스 중에 발생하는 많은 일반적인 문제를 자동으로 수정하여 수동 개입을 줄이고 개발 속도를 높이는 자체 복구 CI를 구현했습니다. 이 접근 방식은 SDLC의 '외부 루프'를 최적화합니다.

코드 검토 프로세스도 효율성을 위해 다른 모델 계층을 사용하여 내부 루프로 전환되고 있습니다. 더 작고 빠른 모델은 내부 루프에서 더 빠른 검사를 위해 사용되는 반면, 더 강력한 모델은 외부 루프에서 더 심층적인 분석을 위해 예약되어 속도를 희생하지 않고 철저함을 보장합니다. Uday Kiran Medisetty는 "자체 복구 CI는 우리가 여기서 구현한 것으로, CI에서 발생하는 많은 문제를 해결할 수 있습니다."라고 언급했습니다.

에이전트가 자율적인 차이를 생성할 때 Uber는 인간 검토자에게 그 품질과 신뢰성에 대한 확신을 제공하는 것을 목표로 합니다. 이는 풀 리퀘스트의 향상된 투명성을 통해 달성됩니다.

검증 보고서에는 변경 사항을 설명하는 상세한 확인표와 스크린샷이 포함됩니다. 이 시스템은 또한 차이점 내에서 에이전트가 취한 자체 개선 단계를 추적하여 검토자에게 변경 사항이 내부 검토를 거쳤음을 확신시킵니다. Uday Kiran Medisetty는 "미니언에서 오는 자율적 차이인 경우, 우리는 인간 검토자에게 이 차이가 이미 많은 자체 개선을 거쳤다는 확신을 주고 싶습니다."라고 말했습니다.

Uber는 Agentic 워크플로에 대한 관리형 접근 방식을 강조하여 자동화된 유지 관리 작업이 구조화되고 제어되도록 합니다. 이는 회사 전체에 걸쳐 수천 개의 관리되지 않는 자동화 루프가 확산되는 것을 방지합니다.

관리형 유지 관리 스킬의 예로는 기능 플래그 정리가 있습니다. 이러한 작업은 피크 CI 시간 외에 예약되어 리소스 사용을 최적화하고 엔지니어에게 제시되는 차이점의 양, 특히 월요일 아침에 제시되는 양을 제한하여 전반적인 운영 효율성을 향상시킵니다. Uday Kiran Medisetty는 "여기서 핵심은 이것이 실제로 관리되는 루프라는 것입니다. 우리는 회사 전체에 걸쳐 수천 개의 루프가 아무런 제약 없이 설정되는 것을 원치 않습니다."라고 설명했습니다.

Agentic 시스템은 일상적인 작업에서 생성된 라벨링된 데이터를 활용하여 지속적으로 학습하고 개선됩니다. Agentic 스킬이 차이점을 생성할 때 해당 차이점에 대한 주석, 수락 또는 거부는 귀중한 피드백을 제공합니다.

이 데이터는 스킬 자체를 개선하고 향상시키는 데 사용됩니다. 또한 월별 사고 검토를 분석하여 새로운 Agentic 스킬을 개발하고 다양한 서비스에 걸쳐 자동화된 유지 관리를 적용할 기회를 식별하여 지속적인 개선 주기를 보장합니다. Uday Kiran Medisetty는 "해당 스킬이 실행되어 차이점을 만들면, 그 차이점에는 주석이 달리거나 수락되거나 거부될 것입니다. 이 모든 것은 스킬 자체를 개선하는 데 사용할 수 있는 좋은 라벨 데이터입니다."라고 강조했습니다.

Uber는 Agentic SDLC를 확장함에 따라 인프라에 대한 부담이 증가할 것으로 예상하고 잠재적인 병목 현상을 사전에 해결하고 있습니다. CI 용량 요구 사항을 예측하고 미래 성장을 지원하기 위한 기본적인 투자에 중점을 둡니다.

이러한 변화는 기술적 타당성 평가를 넘어 가치 기반 의사 결정을 내리는 것을 포함하며, 가장 큰 영향을 미칠 곳에 리소스가 할당되도록 합니다. 실행 가능한 실험에 대한 제한도 고려되어 노력이 가치 높은 이니셔티브에 집중되도록 합니다. Uday Kiran Medisetty는 "우리는 이제 인프라에 더 많은 부담을 주고 있습니다. 그래서 우리는 CI 용량이 어디에 있어야 하는지 예측하고 그곳에 적절한 기반 투자를 하려고 노력하고 있습니다."라고 언급했습니다.