아마존의 AI 전환: 코딩 보조 기능 그 이상

AWS의 선임 수석 엔지니어인 클레어 리구리(Clare Ligouri)는 업계 내 AI 코딩 지원의 상당한 발전을 언급했습니다. 초기에 AI 도구는 인라인 코드 완성 및 채팅 기능을 제공했지만, 이제는 에이전트 기반 워크플로로 초점이 옮겨졌습니다. 이는 엔지니어가 코드 생성 도구와 상호 작용하는 방식을 근본적으로 변화시키는 '개척 개발'이라는 초기 채택 단계를 나타냅니다.

리구리의 AWS 업무에는 이러한 새로운 접근 방식을 뒷받침하는 키로(Kiro) 시스템 개발이 포함되며, 이는 개발 파이프라인에서 보다 자율적이고 통합된 AI를 가능하게 합니다.

개척 개발자는 그들을 차별화하는 세 가지 독특한 행동을 보여줍니다. 첫째, 그들은 '핸즈오프 코딩'에 참여하는데, AI 에이전트가 코드의 98~99%를 작성하여 수동 입력을 크게 줄입니다.

둘째, 이 개발자들은 '드문 상호 작용'을 실천하여 보조자가 지속적인 감독 없이 몇 시간 동안 실행되도록 합니다. 셋째, 여러 에이전트를 동시에 실행하여 '병렬 처리'를 활용함으로써 유휴 시간을 최소화하고 효율성을 극대화합니다.

아마존의 베드록 맨틀(Bedrock Mantle) 팀은 개척 개발 방식을 채택하여 생산성을 20배 향상시키는 놀라운 성과를 달성했습니다. 원래 18개월 동안 30명이 필요할 것으로 추정되었던 프로젝트를 6명으로 구성된 팀이 키로(Kiro)를 사용하여 단 76일 만에 완료했습니다. 여기에는 상당한 자원과 시간이 필요한 복잡한 작업인 새로운 추론 데이터 플레인 구축이 포함되었습니다.

이 사례 연구는 에이전트 기반 워크플로를 통해 개발 주기를 가속화하고 자원 할당을 크게 줄일 수 있는 엄청난 잠재력을 보여주었으며, 소프트웨어 프로젝트 제공의 새로운 벤치마크를 세웠습니다.

프라임 비디오(Prime Video) 조직은 다른 팀에서 관찰된 생산성 향상을 검증하기 위해 10일간의 구조화된 스프린트를 실시했습니다. 이 스프린트는 다른 엔지니어링 환경에서 높은 생산성 결과를 재현하는 것을 목표로 했습니다. 이 기간 동안 팀은 예상 프로젝트 완료 시간을 90주에서 24주로 단축했습니다.

예상 완료 시간의 이러한 상당한 단축은 다양한 엔지니어링 팀에 걸쳐 개척 개발 원칙의 확장성과 효율성을 강조하며, 생산성 향상이 고립된 사건이 아니라 반복 가능한 결과임을 확인했습니다.

아마존은 기존 시스템에서 작업하는 초기, 중기, 고위 경력 엔지니어의 일반적인 분포를 포함하는 50개 '정상' 팀에 대한 광범위한 관찰을 수행했습니다. 이 연구는 실제 시나리오에서 AI 도구가 생산성에 어떻게 영향을 미치는지 이해하는 것을 목표로 했습니다. 결과는 상당한 성능 편차를 나타냈습니다. 팀의 절반은 생산성 향상이 3배 미만이었고, 나머지 절반은 4.5배에서 10배 이상의 향상을 달성했습니다.

이 평가에 사용된 주요 지표는 생산으로의 배포 속도였으며, 이는 AI 도구의 효율성이 모든 팀에서 균일하지 않음을 강조하며, 작업 접근 방식의 근본적인 차이를 시사합니다.

클레어 리구리(Clare Ligouri)는 생산성의 단계적 개선이 단순히 새로운 도구를 채택한 결과가 아니라 작업 방식의 의도적인 변화에 달려 있다고 강조했습니다. 고성능 팀은 AI 에이전트를 효과적으로 통합하기 위해 워크플로를 명시적으로 조정했습니다. 반대로, 낮은 성과를 보이는 팀은 기존 프로세스에 근본적인 변화 없이 키로(Kiro)와 같은 AI 도구를 기존 작업 방식에 '뿌리기'만 했습니다.

이러한 관찰은 개정된 워크플로에 AI를 전략적으로 채택하고 통합하는 것이 상당한 생산성 향상의 중요한 동인이며, 성공적인 팀과 최소한의 이점을 보는 팀을 구별한다는 것을 시사합니다.

개척 개발자의 첫 번째 습관은 에이전트 컨텍스트에 지속적으로 투자하여 효과적으로 지속적인 지식 기반을 구축하는 것입니다. 이는 엔지니어의 정신 모델과 암묵적 지식을 AI 에이전트를 안내하는 명시적인 '조향 파일'로 이전하는 것을 의미합니다. 에이전트가 실수를 할 때 개발자는 이러한 파일에 어떤 정보나 지침이 누락되었는지 사전에 식별합니다.

모델이 발전함에 따라 에이전트는 지속적인 유지 관리가 필요합니다. 컨텍스트 비대화를 방지하고 에이전트가 효율적이고 정확하게 유지되도록 하려면 오래된 조향 지침을 정리해야 합니다.

두 번째 습관인 '속도를 높이기 위해 속도를 늦추기'는 AI 기반 워크플로로의 초기 전환 시 생산성이 종종 감소하는 직관에 반하는 현실을 다룹니다. 효과적인 AI 상호 작용을 위해 기존 코드베이스를 준비하는 것은 의도적인 엔지니어링 작업을 필요로 하며, 이는 일시적으로 즉각적인 출력을 감소시킬 수 있습니다. 팀은 코드 리팩토링 및 정리, 때로는 AI 에이전트와 더 나은 호환성 및 성능을 제공하는 TypeScript 또는 Rust와 같은 강력한 유형 언어로 마이그레이션하는 데 시간을 투자해야 합니다.

이러한 초기 투자는 레거시 시스템의 '속도 함정'을 극복하고 궁극적으로 고성능 팀에서 관찰되는 상당한 장기적 생산성 향상을 달성하는 데 중요합니다.

세 번째 습관은 '에이전트를 돌보는 대신 먹이기'에 초점을 맞추어 지속적인 인간-에이전트 상호 작용보다는 자율적인 워크플로를 장려합니다. 에이전트와 지속적인 대화를 특징으로 하는 '분위기 코딩'에 참여하는 것은 인간이 전체 프로세스 동안 깊이 '루프 안에' 남아 있기 때문에 생산성 향상을 크게 감소시킵니다. 대신, 성공적인 워크플로는 에이전트에게 완전한 컨텍스트와 자체 검증 메커니즘을 제공하는 것을 포함합니다.

이 접근 방식은 에이전트가 더 독립적으로 작동하도록 허용하여 지속적인 모니터링을 요구하는 대신 작업을 일괄 처리하는 데 집중하게 함으로써 개발자가 더 복잡하거나 전략적인 과제를 해결할 수 있도록 해줍니다.

네 번째 습관은 코드를 작성하기 전에 상세한 설계를 통해 의도를 명시적으로 만드는 것을 강조하며, 이는 개척 엔지니어링의 초석입니다. 에이전트와 요구 사항 및 사양을 반복하는 것은 실제 코드를 반복하는 것보다 훨씬 효율적이며, 특히 초기 의도가 불분명할 때 더욱 그렇습니다. 아마존 엔지니어는 종종 모호하거나 복잡한 기능을 먼저 사양을 철저히 문서화하여 명확성을 확보함으로써 해결합니다.

명확하고 모호하지 않은 사양을 작성하는 것은 중요합니다. 모호한 프롬프트는 에이전트가 요구 사항을 잘못 해석하여 많은 재작업을 초래하기 때문입니다. 설계 단계를 미리 처리함으로써 팀은 비용이 많이 드는 오류를 방지하고 에이전트 기반 코드 생성의 효율성을 향상시킬 수 있습니다.

이러한 관행은 범위와 기능을 정확하게 정의하는 데 도움이 되어 AI 에이전트가 프로젝트 목표와 정확히 일치하는 코드를 처음부터 생성할 수 있도록 합니다. 이는 개발 주기 후반에 광범위한 코드 수정의 필요성을 줄여 상당한 시간과 자원을 절약합니다.