메타 엔지니어의 에이전트 관리법: Herdr

에이전트마다 탭을 일일이 확인해야 하는 비효율 때문에, 막힌 에이전트가 20~30분 동안 방치되는 병목 현상이 나타났습니다.

이러한 상황은 에이전트의 효율성을 저해하고 전체 작업 흐름을 늦추는 주요 원인으로 지목되었습니다.

Herdr는 올여름 GitHub 트렌딩 1위를 기록하며 주목받았고, 깃허브 스타 34,000개를 넘어서는 성과를 거두었습니다. 이 프로젝트는 8월에 YC(Y Combinator) 펀딩까지 받으며 오픈소스 커뮤니티와 투자자 모두의 관심을 받았습니다.

이러한 성과는 Herdr가 다수의 AI 에이전트를 효율적으로 관리하고자 하는 개발자들의 니즈를 충족시켰음을 보여줍니다.

2007년에 출시된 Tmux는 서버 접속이 끊겨도 프로세스를 유지하는 목적으로 개발된 터미널 멀티플렉서입니다. 과거 개발자 작업은 입력 속도와 동기화된 일대일 프로세스 형태가 주를 이루었기 때문에, 개발자는 하나의 터미널에서 하나의 작업을 수행하는 것이 일반적이었습니다.

그러나 AI 에이전트 시대가 도래하면서 다수의 프로세스가 비동기적으로 지속되어야 하는 환경이 요구되기 시작했습니다. 이제는 사용자의 개입 없이도 에이전트가 24시간 작업을 지속해야 하는 상황이 많아지면서, Tmux와 같은 서버 관리용 도구가 AI 에이전트 시대의 필수 도구로 다시 주목받고 있습니다.

"왜 이렇게 오래된 20년도 더 된이 도구가 최근이 에이전트 시대가 도래하면서 갑자기 다시 뜨고 있어요."라고 개발자는 말했습니다.

에이전트를 네다섯 개 동시 운용하는 경우, 에이전트 서버에 원격으로 접속하여 24시간 돌아가게 만들 수 있습니다. 이러한 환경에서 여러 에이전트의 출력을 한 화면에서 관리하고, 터미널을 닫아도 프로세스가 유지되도록 하는 터미널 멀티플렉서가 필수적입니다.

터미널 멀티플렉서는 기존 tmux 사용자들에게도 보편적으로 활용되는 기능이며, 에이전트 운용 환경에서 그 중요성이 더욱 커지고 있습니다.

tmux는 에이전트가 승인을 기다리는지, 작업이 끝났는지, 또는 오류로 멈췄는지와 같은 상태를 자동으로 구분해주지 않습니다. 그저 터미널의 텍스트를 보여줄 뿐이므로, 사용자가 직접 모든 탭을 돌아다니며 현재 상태를 확인해야 하는 비효율적인 상황이 발생합니다.

이러한 한계로 인해, 도구는 멀티플렉싱을 제공하지만 실제 작업의 병목은 여전히 사용자에게 남아있게 됩니다. 개발자는 "결국에는 제가 탭을 돌면서 확인을 해야 되는 병목이 일어나는 겁니다"라고 언급했습니다.

Herdr는 터미널 화면 왼쪽에 별도의 섹션을 생성하여 각 페인(에이전트)의 상태를 실시간으로 표시합니다. 이 사이드바는 에이전트가 'Working'(작업 중), 'Blocked'(승인 대기), 'Done'(완료) 상태인지 명확하게 보여줍니다.

더 나아가 단순히 에이전트의 상태뿐만 아니라 일반 터미널이 실행 중인 경우까지도 관리할 수 있습니다. 이를 통해 사용자는 현재 워크스페이스에서 어떤 에이전트가 자신의 주의를 필요로 하는지 한눈에 파악하고 효율적으로 대응할 수 있습니다. 개발자는 "전체적인 제 워크스페이스를 관리를 할 수 있는 거죠"라고 설명했습니다.

Herdr 공식 홈페이지에서는 에이전트가 Herdr를 효과적으로 사용할 수 있도록 돕는 '에이전트 스킬 파일'을 제공합니다. 이 스킬 파일을 에이전트에게 제공하면, 에이전트가 직접 Herdr 페인을 관리(orchestrate)하기 시작합니다.

이 기능을 통해 에이전트가 Herdr 환경에 더욱 능동적으로 통합되어, 사용자의 개입 없이도 페인을 조작하고 상태를 업데이트할 수 있게 됩니다.

Herdr는 키보드 네이티브 서포트가 뛰어나 마우스를 사용하지 않고도 모든 터미널 작업을 수행할 수 있습니다. 예를 들어, 새 프로젝트를 만들고 싶을 때 '뉴' 키를 누르면 즉시 프로젝트를 생성할 수 있습니다.

이러한 직관적인 키보드 지원은 학습 곡선이 가파른 기존 터미널 멀티플렉서인 tmux와 비교했을 때 사용 효율성을 크게 높입니다. 사용자는 복잡한 단축키를 외우지 않고도 빠르고 편리하게 Herdr를 조작할 수 있습니다.

개발자는 "저는 이 헐 되게 좋았던 게 키보드가 너무 잘 돼요"라고 말하며 Herdr의 장점을 강조했습니다.

각 페인에는 Claude, Codex 등 어떤 에이전트 모델이 실행 중인지 식별 가능하도록 표시됩니다.

이러한 기능을 통해 사용자는 여러 에이전트의 진행 상황을 동시에 모니터링하고, 전체적인 작업 흐름에서 병목 지점이 어디인지 한눈에 파악하여 효율적인 대응이 가능해집니다.

Herdr는 다양한 단축키(키바인딩)를 제공하여 사용자의 워크플로우를 가속화합니다. 예를 들어, 컨트롤+B+N 조합으로 새로운 스페이스를 생성할 수 있으며, 컨트롤+B+?를 눌러 전체 키바인딩 목록을 확인할 수 있습니다.

또한 사용자는 테마를 설정하거나 사운드 및 토스트 알림을 활성화하는 등 개인의 선호에 맞춰 Herdr 환경을 커스터마이징할 수 있습니다. "이거를 또 알면 훨씬 더 빠르게 작업을 할 수 있거든요"라고 개발자는 단축키의 유용성을 강조했습니다.

Herdr는 tmux와 유사한 서버 구조를 기반으로 하여 세션 영속성을 제공합니다. 이는 사용자가 터미널을 종료하더라도 실행 중인 에이전트 프로세스가 유지된다는 것을 의미합니다.

따라서 언제든 다시 Herdr에 접속하면 이전 작업 상태 그대로를 이어서 확인할 수 있습니다. 개발자는 "아직 이렇게 터미널을 꺼도 돌아간다라는 거를 보여 드리고 싶었습니다"라고 말하며 이 기능을 시연했습니다.

개발자는 세 가지 작업을 동시에 수행하는 시나리오를 제시했습니다. 첫 번째 작업은 썸네일 제너레이터의 드래프트 생성 단계에서 가장 느린 구간을 프로파일링하고, 결과 품질을 유지하면서 소요 시간을 줄이는 최적화 방안을 찾는 것입니다.

두 번째는 인스피레이션 탭의 로딩 버그를 수정하는 것이고, 마지막 세 번째는 오토클릭 썸네일 드래프트 프로포절 섹션을 사용자 친화적으로 만들기 위한 브레인스토밍을 진행하는 것입니다. 이 세 가지 작업을 에이전트를 통해 동시에 처리하는 과정을 시연했습니다.

메인 오케스트레이터 에이전트가 다른 세 개의 에이전트를 생성하여 작업을 지시하고 관리합니다. 각 서브 에이전트는 독립된 페인에서 할당된 작업을 실행하며, 메인 오케스트레이터는 이들의 진행 상황을 모니터링합니다.

이 과정에서 메인 오케스트레이터는 작업 브리프를 파일로 만들어 서브 에이전트에게 전달하는 핸드오프 방식을 사용합니다. 또한, 필요에 따라 권한 모드를 바이패스하는 등 자율적인 판단을 내리며 오케스트레이션 역할을 수행합니다. 개발자는 "이게 진짜 오케스트레이션 에이전트 아닌가라고 생각합니다"라고 말했습니다.

Herdr의 각 페인에는 고유한 아이디가 부여됩니다. 이 아이디를 활용하여 페인끼리 상호 제어가 가능하며, 이는 소켓 API를 통해 구현됩니다.

소켓 API는 페인 간의 통신을 가능하게 하여, 한 페인이 다른 페인의 작업을 시작하거나 중지시키는 등의 명령을 내릴 수 있도록 합니다. 이를 통해 에이전트 간의 협업과 오케스트레이션이 더욱 유연하게 이루어질 수 있습니다.

이를 위해 10개 정도의 페인을 생성하여 병렬 검증을 수행합니다.

메인 오케스트레이터는 이러한 서브 에이전트들을 총괄하며 전체적인 프로젝트 진행 상황을 모니터링합니다. 개발자는 "메인 오르케스트레를 보면서 이제 전체적인 그림을 봅니다"라고 설명했습니다.

이 리포트는 작업의 진행 상황과 결과 요약을 포함합니다.

생성된 리포트는 팀원들과 공유하거나 메시지 형태로 전송하는 등 협업에 활용될 수 있습니다. 이를 통해 프로젝트 관리자와 팀원들은 에이전트가 수행한 작업의 내용을 쉽게 파악할 수 있습니다.

코드 생성 전 최종적으로 코덱스(Codex) 리뷰를 수행하는 절차가 필수적으로 포함됩니다. 이 리뷰는 생성될 코드의 품질과 잠재적 문제를 사전에 검증하는 역할을 합니다.

또한, 게이트 검증 통과 여부를 확인하여 최종 PR(Pull Request)이 생성되기 전에 모든 기준을 충족했는지 점검합니다. 개발자는 "생성하기 전에 마지막으로 코덱스 리뷰 한번 돌리고 생성해 줘"라고 강조했습니다.

이에는 Herdr 외에도 오르카(Orca), 에이전트 전용 브라우저 등 다양한 도구들이 포함됩니다.

개발자는 "이 에이전트 시대가 오면서 도구들이이 에이전트 중심으로 다시 만들어지고 있는 거 같아요"라고 언급하며, 미래의 개발 환경이 에이전트 중심으로 재편될 것임을 시사했습니다.