Monzo의 규모: 3,000개 이상의 백엔드 서비스와 13,000개 데이터 모델
Felipe는 Monzo를 모두를 위해 돈이 제대로 움직이도록 하려는 디지털 은행이라고 소개한다.
Felipe는 Monzo를 모두를 위해 돈이 제대로 움직이도록 하려는 디지털 은행이라고 소개한다.
사용자는 Agent Chip을 @로 호출해 작업을 시키거나, 질문에 답하게 하거나, 아키텍처를 설명하게 하거나, 그냥 대화할 수 있다.
또한 코드 리뷰를 수행하며, Linear 티켓을 할당받아 직접 처리한다.
Agent Chip은 이제 데이터, ML, 백엔드, 앱 엔지니어링을 포함한 기술 팀 전체에서 병합된 PR의 10% 넘게를 작성한다.
하루 1,800건 이상의 작업을 실행하며, 비즈니스 사용자들도 질문, 쿼리, 셀프 서비스 요청에 이를 쓰기 시작했다.
이 강연은 에이전트 출시를 자랑하려는 것이 아니다. 제품을 성공시킨 요인을 공유하는 데 목적이 있다.
발표자들은 자신들이 말하는 'LLM'이 플랫폼에 이미 있던 여러 작은 배수 효과, 즉 역량들을 뜻한다고 설명한다.
Agent Chip을 이토록 빠르고 가치 있게 만들 수 있었던 것은 Monzo의 매우 강력한 플랫폼이라고 우리는 믿습니다.
원격 에이전트가 존재하기 전에, Monzo는 로컬 환경에서 AI 코딩 에이전트를 지원하는 데 투자하기 시작했다.
이 기반 작업이 먼저 이루어졌고, 나중에 원격 에이전트가 내부 시스템에 연결될 수 있게 해 주었다.
Monzo가 처음 만든 것은 지식 소스와 내부 도구에 쉽게 접근하게 해 주는 MCP 게이트웨이였다.
이 게이트웨이는 내부 서비스 앞에 위치해 에이전트가 무엇에 접근할 수 있는지 결정하고, 많은 에이전트에 걸친 인증과 권한 부여도 관리한다.
기본 원칙은 에이전트가 안전하게 얻을 수 있는 맥락과 데이터가 많을수록 좋다는 것이다.
원격 에이전트는 격리된 Kubernetes 네임스페이스 안의 샌드박스에서 실행되며, 오케스트레이션 시스템이 이를 트리거하고 출력을 읽는다.
각 샌드박스에는 정확한 도구, CLI, 그리고 게이트웨이에서 받은 자격 증명을 정의하는 에이전트 이미지가 있다. 프록시는 명시적으로 선택된 곳으로만 외부 전송을 허용하므로, 코드 저장소는 의도적으로만 접근할 수 있다.
에이전트 자체는 가장 안쪽 상자에서 실행되며, 비결정적 동작이 여기서 일어난다.
게이트웨이와 오케스트레이션이 갖춰지자, 에이전트는 이후의 활용 사례가 연결될 수 있는 구성 요소가 된다.
Slack, GitHub, Linear뿐 아니라 플랫폼의 3,000개 이상의 서비스에도 연결될 수 있다.
엔지니어는 더 넓은 범위와 양의 작업을 실행할 수 있고, 원격 에이전트를 하나하나 감독하는 대신 위임할 수 있으며, 이를 통해 사람은 모호한 문제에 집중할 수 있다.
Monzo는 가설을 검증하는 동안 채널을 도배하지 않도록 장애 중에는 에이전트의 발화를 의도적으로 제한한다. 얼마나 기여할지는 사람이 통제한다.
질문 채널은 Monzo 내부에서 팀이 백엔드 서비스, 제품, 로드맵에 대한 맥락을 필요로 할 때 쓰는 팀 간 상호작용 공간이다.
Agent Chip은 지식 소스에 연결되어 있으므로 사람이 검토할 답변 초안을 작성한다. 때로는 초안이 요청을 바로 해결하고, 그렇지 않으면 더 많은 맥락을 요청하고 담당자를 태그한다.
선제적 버전은 백엔드 변경을 모니터링하고, 다음 배치 실행 전에 데이터에 미칠 가능성이 있는 영향을 추정한다.
비전문가는 제품 피드백, 아이디어, 논의에서 출발해 Slack에서 Agent Chip을 호출하고, 스테이징에서 이미 테스트된 초안을 받을 수 있다.
그 뒤에야 엔지니어가 검토하고 배포에 참여한다. Monzo의 소프트웨어 프로세스의 엄격함은 그대로 유지되지만, 더 많은 사람이 기여할 수 있게 된다.
Francesco는 이 에이전트가 이제 새로운 에이전트 활용 사례를 빠르게 가능하게 하는 새로운 구성 요소이며, 보안 및 플랫폼 요구 사항과 안전하게 연결된다고 주장한다.
에이전트 계층은 어떤 모델으로든 교체할 수 있고 목적에 따라 선택할 수 있어, Monzo는 특정 제공자에 종속되지 않는다.
Francesco는 Monzo가 더 넓은 개발 과정을 다루는 방향으로 나아가고 있다고 말한다: 백엔드와 앱 변경의 초안 작성, 스테이징에서의 테스트, 데이터 테스트까지 포함하는 것이다.
그는 오늘 개발이 멈추더라도 이미 가치는 실재한다고 덧붙이며, end-to-end 원격 에이전트가 시스템을 더 잘 통합해 줄 것이라고 말한다.
자막에서 근거가 되는 대목을 찾아 답합니다.
AI Engineer의 다음 글도 받아볼까요?
AI Engineer에 새 영상이 올라오면, 방금 읽으신 것처럼 정리해서 메일로 보내 드릴게요.
이 채널은 지난 7일 동안 32편 올렸어요.