앤스로픽, AI 코딩 에이전트 '클로드 코드'의 진화와 미래 비전 제시

그녀는 자신이 앤스로픽에 합류했을 당시 클로드 코드가 출시되기 직전이었으며, 자신이 제출한 첫 번째 풀 리퀘스트(PR) 직후 이 내부 도구의 이름이 클로드 코드로 변경되었다고 설명했다.

이는 클로드 코드가 단순한 외부 서비스가 아니라, 앤스로픽 내부의 개발 과정에서 점진적으로 발전해 온 결과물임을 시사한다. 이 초기 단계에서 쌓인 경험과 피드백이 현재의 클로드 코드를 형성하는 데 중요한 역할을 했음을 짐작할 수 있다.

그는 이번 강연이 그러한 목표를 달성하기 위해 주변 사람들이 방법을 찾아가는 과정에 대한 이야기라고 설명했다.

이러한 목표 설정은 클로드 코드가 단순한 개발 보조 도구를 넘어, 소프트웨어 개발의 진입 장벽을 낮추고 더 많은 사람이 창의적인 아이디어를 코드로 구현할 수 있도록 지원하는 방향으로 나아가고 있음을 보여준다. 궁극적으로는 개발 전문성이 부족한 사용자도 AI의 도움을 받아 복잡한 개발 작업을 수행할 수 있는 미래를 지향하고 있다.

2024년 '툴 호출(Tool Call)' 개념의 등장은 클로드 코드 발전의 중요한 전환점이었다. 데이지 홀먼은 이 기능을 통해 AI 모델이 컴퓨터에 특정 작업을 요청할 수 있게 되었다고 설명했다. 이는 모델이 단순히 텍스트를 생성하는 것을 넘어, 외부 시스템과 상호작용하며 실제 작업을 수행할 수 있는 능력을 갖추게 되었음을 의미한다.

모델이 여러 툴 호출을 연달아 수행하며 복잡한 작업을 처리할 수 있게 되자, 앤스로픽은 이를 '에이전트'라고 부르기 시작했다. 에이전트는 특정 목표를 달성하기 위해 자율적으로 판단하고 행동하는 시스템으로, 이로써 클로드 코드는 단순한 코딩 도구를 넘어 지능형 자동화의 영역으로 확장되었다. 이 기능은 AI가 복잡한 문제를 해결하고 소프트웨어 개발 과정에 더 깊이 개입하는 시대를 여는 시발점이 되었다.

그녀는 편집 도구의 스키마가 파일 이름, 이전 문자열, 새 문자열을 제공한다고 설명하며, 이는 본질적으로 '찾아서 바꾸기' 기능과 유사하다고 덧붙였다.

이 도구를 통해 에이전트는 특정 파일 내에서 원하는 텍스트를 찾아 새로운 텍스트로 교체함으로써 코드 수정 작업을 수행할 수 있다. 이러한 간단하면서도 강력한 기능은 에이전트가 코드 변경을 제안하고 적용하는 데 필수적이며, 복잡한 코드 수정 작업을 자동화하는 기반이 된다.

이 차트는 '에이전트 무어의 법칙'이라는 개념을 제시하며, 약 4개월마다 모델이 50% 성공률로 수행할 수 있는 작업의 시간 범위가 두 배로 늘어난다는 추세를 보여주었다. 이는 AI 에이전트의 성능이 기하급수적으로 향상되고 있음을 시사하는 지표였다.

그러나 데이지 홀먼은 이 차트가 올해 초에 중단되었다고 밝혔다. 그 이유는 16시간 작업의 정의가 모호해지면서 오차 범위가 너무 커져 더 이상 유용성을 잃었기 때문이다. 초기에는 모델의 발전을 잘 보여주었지만, 에이전트의 능력과 복잡성이 증가함에 따라 단일 지표로 성능을 측정하기 어려워진 것이다.

그럼에도 불구하고, 이 차트는 지난 3년간 AI 에이전트 성능의 꾸준한 향상 추세를 기록했다는 점에서 의미가 있다. 이는 AI 에이전트 기술이 상당한 발전을 이루었음을 보여주는 간접적인 증거이기도 하다.

그녀는 한때 C++ 메타 프로그래밍 강연을 하며 자신의 코딩 실력을 자랑스러워했지만, 지난 1년 반 동안 앤스로픽에서 일하며 그러한 능력이 더 이상 중요하지 않다는 것을 깨달았다고 고백했다.

이 발언은 AI의 발전이 소프트웨어 엔지니어의 역할과 필요한 역량에 근본적인 변화를 가져올 것임을 시사한다. 단순한 코드 작성 능력을 넘어, AI 에이전트를 효과적으로 활용하고 더 큰 그림에서 문제 해결에 기여하는 능력이 중요해질 것이라는 전망을 내비친 것이다.

데이지 홀먼은 대부분의 전문 소프트웨어 엔지니어링 작업이 단순히 소스코드 내부에서 이루어지는 것이 아니라고 주장했다. 그녀는 프로그래밍이 소스코드를 다루는 일이라면, 소프트웨어 엔지니어링은 그보다 훨씬 더 광범위한 영역을 포괄한다고 설명했다. 그녀의 주장에 따르면, 의사 결정은 팀 채팅, CI/CD 파이프라인, 대시보드, 내부 문서, 설계 문서 등 다양한 곳에서 이루어진다.

이는 소프트웨어 개발이 단순한 코딩 작업을 넘어, 협업, 시스템 설계, 문제 해결, 의사소통 등 복합적인 활동의 총체라는 인식을 반영한다. AI 에이전트가 코드 작성 능력을 향상시키더라도, 이러한 소스코드 외적인 영역에서의 인간의 역할은 여전히 중요하며, AI는 오히려 이러한 의사 결정 과정을 지원하는 도구가 될 수 있음을 시사한다.

그녀는 아직 그 누구도 클로드 전용 IDE나 모델을 위한 실시간 피드백 시스템이 어떤 모습일지 제대로 구상하지 못했다고 덧붙였다.

이는 AI 에이전트 기술이 발전하고 있음에도 불구하고, 실제 개발자들이 사용하는 복잡한 개발 환경과 완벽하게 통합되거나 이를 대체할 만큼 정교한 수준에는 도달하지 못했음을 의미한다. 실시간 코드 분석, 디버깅, 버전 관리 등 IDE가 제공하는 다양한 기능들을 AI 에이전트가 완벽히 재현하고 통합하는 데에는 아직 많은 연구와 개발이 필요하다.

데이지 홀먼은 에이전트가 코드베이스를 더 잘 다루도록 하는 가장 빠른 방법은 단순히 더 똑똑한 모델을 만드는 것이 아니라, '더 짧은 피드백 루프'를 제공하는 것이라고 강조했다. 그녀는 에이전트에게 실수를 더 빨리 알려주는 것이 성능 향상에 결정적이라고 설명하며, 이는 대부분 이미 활용하고 있는 스크립트들을 통해 구현될 수 있다고 덧붙였다.

마치 프로그래밍 언어의 '빨간 밑줄'처럼 즉각적인 오류 피드백이 개발 효율성을 높이는 것과 마찬가지로, AI 에이전트 역시 자신의 실수를 빠르게 인지하고 수정할 수 있는 환경이 중요하다는 것이다. 모델 자체의 지능 향상도 중요하지만, 효율적인 피드백 메커니즘을 구축하는 것이 에이전트의 실제 적용 가능성과 성능을 비약적으로 끌어올릴 수 있는 현실적인 방안으로 제시되었다.

이는 AI 에이전트 개발에서 모델 성능 개선만큼이나 사용자 경험 및 상호작용 디자인의 중요성을 부각하는 관점이다.

데이지 홀먼은 지난 1년간 모델의 기능이 자동 완성부터 장기적인 자율 작업에 이르기까지 폭발적으로 증가했다고 언급했다. 그러나 이러한 기능적 발전에도 불구하고, 모델이 한 번에 처리할 수 있는 정보의 양을 결정하는 '콘텍스트 윈도(Context Window)' 크기는 여전히 제한적이라고 지적했다.

콘텍스트 윈도는 다음 토큰을 예측하기 위해 모델이 볼 수 있는 토큰(단어 또는 단어 조각) 집합을 의미하며, 이 크기는 고정되어 있다. 이는 모델이 아무리 강력해져도, 한 번에 참조할 수 있는 정보의 범위가 정해져 있어 복잡하고 대규모의 코드베이스를 효과적으로 다루는 데 한계가 있음을 의미한다. 특히 대규모 소프트웨어 프로젝트에서는 이 제한이 큰 걸림돌이 될 수 있다.

그녀는 지난 1년 반에서 2년 동안 이 문제에 대한 진전이 거의 없었다고 언급했다.

KV 캐시는 모델이 이전에 처리한 토큰들의 정보를 저장하여 다음 토큰 예측 비용을 줄이는 메커니즘이다. 예측할 토큰들이 이전 토큰들과 동일할 때 비용이 훨씬 저렴해지는데, 현재로서는 이 효율성을 극대화하고 캐시 크기의 한계를 넘어서는 해결책이 보이지 않는다는 것이다.

이러한 KV 캐시의 한계는 모델이 장기적인 콘텍스트를 유지하거나, 이전에 보지 못했던 새로운 정보를 효율적으로 처리하는 데 제약으로 작용한다. 이는 LLM의 효율성과 성능 향상을 위한 중요한 병목 지점이며, 지속적인 연구가 필요한 분야로 지적되었다.

그녀는 1억 줄이 넘는 코드를 가진 모노리포나 5천 개의 리포지토리를 사용하는 회사와 같은 엔터프라이즈 규모에서 플러그인 추상화가 어떻게 작동하는지에 대해 설명할 것이라고 밝혔다.

이는 클로드 코드가 범용적인 AI 코딩 도구를 넘어, 특정 기업의 복잡한 코드베이스와 개발 워크플로우에 유연하게 통합될 수 있도록 설계되었음을 의미한다. 플러그인을 통해 기업은 자신들의 특수한 요구사항에 맞춰 클로드 코드의 기능을 확장하고 맞춤 설정할 수 있게 된다.

그녀는 AI 기술들이 소프트웨어 엔지니어링을 가능하게 하려면 이러한 방식으로 확장될 수 있어야 한다고 강조하며, 이는 여전히 흥미로운 과제라고 말했다.

이는 클로드 코드가 중소규모 프로젝트나 특정 코드 조각에서는 효율적일 수 있지만, 수많은 파일과 복잡한 종속성을 가진 대기업의 모노리포(Monorepo)와 같은 환경에서는 아직 한계가 있음을 시사한다. 대규모 코드베이스를 이해하고 효율적으로 변경 사항을 적용하는 능력은 AI 에이전트가 진정한 엔터프라이즈 솔루션으로 자리매김하기 위한 필수 요소이다.

앤스로픽은 이 차이가 충분히 근본적이라고 판단하여 두 개념을 별도의 이름으로 유지하고 있다고 덧붙였다.

'인-콘텍스트' 스킬은 모델이 현재 처리하고 있는 정보 범위 내에서 특정 작업을 수행하는 것을 의미하며, '아웃-오브-콘텍스트' 서브 에이전트는 모델의 현재 콘텍스트를 벗어나 독립적으로 더 큰 작업을 수행하거나 외부 환경과 상호작용하는 개념으로 이해될 수 있다. 이러한 구별은 클로드 코드가 다양한 규모와 복잡성의 작업을 처리하기 위해 계층적인 에이전트 구조를 활용하고 있음을 보여준다.

그녀는 플러그인이 모든 콘텍스트의 시작 부분에 무조건적으로 많은 양의 텍스트를 삽입하도록 허용하는 추상화를 제공한다면, 활성화할 수 있는 플러그인 수를 5개나 10개로 제한할 수밖에 없다고 밝혔다. 이는 불필요한 정보가 콘텍스트에 추가되어 토큰 사용량이 증가하고, 결국 사용자에게 더 높은 비용을 청구하게 되는 문제를 야기하기 때문이다.

클로드 코드는 효율적인 자원 사용을 중요하게 여기며, 플러그인 설계 역시 이러한 원칙을 따라야 한다는 점을 분명히 했다. 즉, 플러그인은 필요한 정보만을 적시에 제공하여 모델의 처리 효율성을 극대화하고 비용을 절감하는 방향으로 개발되어야 한다.

따라서 플러그인은 단순히 기능을 확장하는 것을 넘어, 콘텍스트 관리와 비용 효율성을 고려한 설계가 필수적이다. 앤스로픽은 사용자가 불필요한 비용을 지불하지 않도록 플러그인 작동 방식을 엄격하게 관리하려는 의지를 보였다.

데이지 홀먼은 앤스로픽의 실제 설정에서 '장기 실행 에이전트'가 어떻게 운영되는지 설명했다. 초기에는 16개의 영구 작업 트리로는 효율적인 운영이 어렵다고 판단했지만, 이제는 A부터 Z까지 확장되는 더 많은 작업 트리를 활용하고 있다고 밝혔다. 그녀는 각각의 작업 트리가 분리되어 있으며, 마치 장기 실행 에이전트처럼 한 곳에 주차되어 있다고 덧붙였다.

이 시스템에서는 각 에이전트가 특정 작업 트리를 장기적으로 유지 관리하는 책임을 맡는다. 이는 에이전트가 단기적인 작업에 그치지 않고, 지속적으로 코드베이스를 모니터링하고 업데이트하며 복잡한 프로젝트를 관리할 수 있도록 설계되었음을 의미한다. 이러한 구조는 에이전트의 자율성을 높이고, 개발 워크플로우 전반에 걸쳐 효율성을 향상시키는 데 기여한다.

데이지 홀먼은 `/loop`가 모델을 위한 크론 명령어 또는 크론 도구와 같다고 설명했다.

이 기능을 사용하면 모델이 10분마다 메시지를 나타내도록 예약할 수 있으며, 특정 시점에 스스로 작업을 중단하는 기능도 포함되어 있다. 예를 들어, 모델은 '3일 동안 10분마다 이걸 봤으니 이제 끌게'와 같이 스스로 판단하여 종료할 수 있다. 비록 일정량의 토큰을 사용하지만, 사람이 CI(지속적 통합)를 확인하고 수동으로 복사 붙여넣기 하여 작업을 다시 시작하는 것보다 훨씬 적은 비용으로 효율적인 관리가 가능하다는 점을 강조했다.

이 베이비시팅 기능은 AI 에이전트의 자율성을 한 단계 더 높이며, 개발자가 지속적으로 모델의 진행 상황을 모니터링하고 수동으로 개입할 필요를 줄여준다. 이는 반복적이고 주기적인 유지보수 작업에 AI를 활용하여 인적 자원과 시간을 절약하는 효과를 가져올 수 있다.

2025년에는 모델에 정보를 입력하여 더 나은 결과를 얻는 데 중점을 두었다고 설명했다. 이는 에이전트 섭취 프로그래밍이 초기 단계였고, 모델이 실수를 할 때마다 개발자가 끊임없이 보완해야 했기 때문이다.

그러나 2026년에는 목표가 '모델에서 사용자에게 정보를 전달하는 것'으로 더 많은 초점을 맞출 것이라고 예상했다. 그녀는 모델의 성능이 강해짐에 따라 사용자가 모델에 제공하는 정보의 품질은 점점 덜 중요해질 것이며, 병목 현상도 줄어들 것이라고 전망했다.

이러한 목표 변화는 AI 에이전트가 단순히 사용자 입력에 의존하는 단계를 넘어, 스스로 판단하고 중요한 정보를 사용자에게 능동적으로 제시하는 방향으로 발전할 것임을 시사한다. 이는 개발자와 AI 에이전트 간의 상호작용 방식이 더욱 효율적이고 고도화될 미래를 예고한다.