노트북에서 파이프라인으로: AI 에이전트 확장

그의 현재 역할은 고객과 기술 채택 및 확장 방법에 대해 협력하는 것입니다.

각 유형을 효과적으로 구축, 확장 및 활용하는 방법을 이해하는 것이 Copilot의 에이전트 아키텍처의 핵심입니다.

사용자는 IDE, GitHub CLI 또는 SDK를 통해 코딩 에이전트와 상호 작용할 수 있습니다.

GitHub CLI 세션은 스트리밍하거나 GitHub.com으로 위임할 수 있으며, 모바일 장치는 활성 에이전트를 원격으로 제어할 수 있습니다.

SDK는 Slack 또는 Microsoft Teams와 같은 타사 도구 내에서 에이전트 생성을 가능하게 하여 GitHub의 기본 인터페이스를 넘어 도달 범위를 확장합니다.

사용자가 어떤 인터페이스를 선택하든, 모든 요청은 Cappy 또는 하네스라고도 불리는 Copilot API 서비스에 도달합니다.

하네스는 입력 분할, 보안, 인증 및 로깅과 같은 어려운 엔지니어링 작업을 처리합니다.

요청을 다양한 모델 공급자에게 라우팅하고 사용자에게 반환하기 전에 최종 출력을 필터링합니다.

Explorer 에이전트는 리포지토리를 탐색할 때 효율적인 코드 베이스 조사를 위해 Haiku와 같은 작은 모델을 사용합니다.

Rubber Duck 에이전트는 GPT와 같은 다른 모델 공급자를 사용하여 Opus와 같은 다른 사람이 작성한 계획을 감사함으로써 계획 유효성 검사를 제공하여, 임베디드 에이전트가 특정 목적을 위해 다른 모델을 계층화하는 방법을 보여줍니다.

에이전트 명령은 CLI 환경 내에서 워크플로를 설정하는 과정을 안내하며, 에이전트는 특정 Git 프로젝트로 범위를 지정하거나 사용자 또는 조직 수준에서 구성할 수 있습니다.

Copilot은 수동 설정 없이 설명 작성, 프런트 매터 형식 지정, 방법론 구조화 등 스캐폴딩 프로세스를 자동으로 처리합니다.

빌더는 CLI 및 IDE 인터페이스 모두에서 사용할 수 있으며, 사용자는 나중에 생성된 파일을 편집하여 소스 또는 작업 논리를 다듬을 수 있습니다.

마켓플레이스는 패키지 관리 기능을 추가하는 특정 JSON 파일을 포함하는 리포지토리로, Copilot 내에서 에이전트를 배포하는 가장 쉬운 방법입니다.

마켓플레이스를 구독하면 팀이 에이전트를 동시에 동기화, 버전 관리 및 업데이트를 푸시할 수 있으며, 기술 기여 및 조직 전체의 Copilot 채택 확장을 위한 중앙 허브 역할을 합니다.

리포지토리에 'GitHub private' 명명 규칙을 사용하면 조직이 에이전트 파일을 팀원에게 노출하여 클라우드 플랫폼과 로컬 CLI/IDE 환경 모두에서 액세스할 수 있도록 합니다.

이 메커니즘은 별도의 배포 단계 없이 공유 준수 봇과 같은 일관된 도구 가용성을 전체 팀에 걸쳐 보장합니다.

AI 제품을 사용하는 가장 저렴한 방법은 캐시 적중, 즉 일반 데이터에 대한 정확한 일치입니다.

에이전트를 마켓플레이스 또는 내부 자산에 게시하면 조직 전체에서 재사용할 수 있으며, 에이전트 워크플로를 표준화하면 프로세스를 반복적으로 다시 만드는 것을 방지하여 캐시 적중률을 높이고 토큰 비용을 줄입니다.

`.github private` 디렉토리는 조직 내 모든 사람에게 에이전트를 내부적으로 공유하는 방법이며, 마켓플레이스는 내부 사용을 위해 구성할 수 있으므로 관리자가 조직 전체 또는 외부로 에이전트를 배포할 수 있습니다.

각 하위 에이전트는 작업의 일부를 처리하고 상위 에이전트는 전체 흐름을 조정합니다.

Copilot CLI는 `-p`(프롬프트) 명령을 사용하여 헤드리스 모드로 실행할 수 있어 단일 프롬프트 원샷을 수락하고 사용자 상호 작용 없이 작업을 완료할 수 있습니다.

이를 GitHub Actions 러너 또는 기타 CI 시스템 내에서 실행하면 해당 대화형 에이전트가 리포지토리의 ID 및 예산을 사용하여 자율 파이프라인 에이전트로 전환됩니다.

워크플로 트리거는 릴리스 이벤트 또는 cron 작업을 통한 예약된 유지 관리일 수 있으며, 비용 및 품질 관리를 유지하기 위해 필요한 경우 human-in-the-loop 승인 지점을 통합합니다.

일반적인 워크플로는 제품 관리자 에이전트가 기능을 범위화하고 계획을 생성한 다음 코드 구현을 위해 GitHub Copilot에 넘겨주며, 개발자는 코드 평가를 위해 수락 단계에서 상호 작용합니다.

파이프라인 에이전트는 플랫폼에서 자율적으로 실행되므로 개발자의 로컬 장치가 연결 해제되거나 사용할 수 없게 되더라도 계속 작동하여 진정한 확장 가능한 비접촉 자동화를 가능하게 합니다.

내부 프레임워크 프로젝트 자체는 에이전트가 전적으로 구축했으며, 개발자는 모바일 장치에서 슬래시 명령을 통해 상호 작용합니다.

이 프레임워크에는 파이프라인의 다른 부분을 실행하는 약 200개의 에이전트가 포함되어 있으며, 일일 보고서를 확인하고 다른 에이전트가 사용할 마크다운 출력을 생성하여 작업을 오케스트레이션하는 메타 에이전트도 있습니다.

사용 가능한 에이전트에는 코드 중복 제거 도구와 다양한 검토자 유형(QA 검토자, 유머러스한 검토자 등)이 포함되어 팀이 처음부터 구축할 필요가 없습니다.

에이전트가 개별 개발자 머신에서만 실행될 경우 도구 호출이 성공적인지, 비용은 얼마인지, 시간이 얼마나 걸리는지 알 수 없습니다.

에이전트를 CI로 이동하면 OpenTelemetry로 계측하여 전체 모니터링이 가능해져 조직이 평균 토큰 사용량, P90 비용 임계값, 도구 호출 성공률과 같은 메트릭을 추적할 수 있습니다.

중앙 집중식 로그는 모델 및 프롬프트의 A/B 테스트를 가능하게 하여 비용 효율적인 대안을 식별하고, 성능 데이터는 에이전트가 너무 장황하거나 작업을 올바르게 완료하지 못하는지 진단하는 데 도움이 됩니다.

프레젠테이션은 완전한 여정을 보여주었습니다. 로컬에서 에이전트를 구축하고, 마켓플레이스 또는 프라이빗 리포지토리를 통해 플랫폼에서 에이전트를 공유하며, 궁극적으로 해당 에이전트를 자율 실행을 위해 CI 파이프라인으로 이동하는 것입니다.

Palafox는 GitHub에서 현장 업무를 담당하며, 관심 있는 분들은 LinkedIn 또는 GitHub 계정 담당자를 통해 연락을 취하도록 초대합니다.