코딩 AI 에이전트가 지식 작업 에이전트보다 빠른 이유

오늘날 대부분의 에이전트 도구 호출은 소프트웨어 엔지니어링에 집중되어 AI 에이전트 채택의 선도 분야가 되고 있습니다. 이는 AI 에이전트를 워크플로에 통합하는 데 크게 뒤처져 있는 다른 전문 분야와 극명한 대조를 이룹니다. 현재 상황은 산업 전반에 걸친 광범위한 통합보다는 전문화된 성공을 나타냅니다.

불과 3년 만에 코딩 에이전트는 기본적인 자동 완성 기능에서 완전 자율 시스템으로 극적으로 발전했습니다. 이러한 급속한 발전은 그들의 기능에 대한 심오한 변화를 의미하며, 복잡한 소프트웨어 엔지니어링 작업을 독립적으로 처리할 수 있도록 합니다. 이러한 변화는 단순히 개선된 AI 모델의 결과가 아니라 다른 기여 요인을 지적합니다.

코딩 에이전트의 성공은 우연이 아닙니다. 이는 소프트웨어 개발을 둘러싼 기존 인프라 및 시스템에 깊이 뿌리 박혀 있으며, 이들은 본질적으로 에이전트를 지원하도록 설계되었습니다. 버전 제어를 위한 Git, 자동화된 테스트 및 배포를 위한 CI/CD 파이프라인, 코드 품질을 위한 린터와 같은 기능은 자율 에이전트에 필수적인 신뢰와 안전망을 제공합니다. 이러한 기본 지원 아키텍처는 지식 작업에는 대부분 없어서 해당 분야에서 AI 에이전트 통합에 상당한 장벽을 만듭니다.

코딩 에이전트는 단일 진실 소스인 코드베이스 내에서 작동하기 때문에 번성합니다. 이와는 대조적으로 지식 작업은 Salesforce, Notion, Slack, Zendesk와 같은 수많은 이질적인 플랫폼에 흩어져 있는 파편화된 데이터로 인해 어려움을 겪습니다. 통일된 데이터 소스의 부족은 에이전트가 연결되지 않은 정보 스레드를 엮는 데 상당한 노력을 기울이도록 강요하여 효율성과 효과를 저해합니다. 이러한 데이터 구성의 근본적인 차이는 지식 작업에서 AI 에이전트의 광범위한 채택에 주요 장애물을 야기합니다.

Composio는 모든 애플리케이션 연결 및 로그인을 통합하도록 설계된 중앙 계층인 '누락된 중심'을 구축하여 파편화 문제를 해결합니다. 이 통일된 기반은 AI 에이전트가 수동으로 데이터를 엮을 필요 없이 정보를 원활하게 액세스할 수 있도록 합니다. 주요 목표는 소프트웨어 개발에서 발견되는 중앙 집중식 '리포' 개념을 모방하는 비코딩 워크플로를 위한 기준 환경을 설정하여 보다 효과적인 에이전트 작동을 가능하게 하는 것입니다.

코딩에서 이력 컨텍스트는 모든 변경 사항과 커밋에 대한 포괄적인 기록을 유지하는 Git과 같은 시스템에 의해 본질적으로 제공됩니다. 이 이력 데이터는 에이전트가 과거의 실패를 이해하고, 그로부터 배우고, 필요한 경우 이전의 성공적인 상태로 되돌아가는 데 중요합니다. 사람의 감독을 위해서는 강력한 감사 추적이 필수적이며, 사용자가 에이전트 작업을 실시간으로 확인하고 모니터링할 수 있도록 합니다. 변경 사항을 추적하고 되돌릴 수 있는 이러한 기능은 지식 작업 환경에서 종종 부족한 중요한 안전 및 신뢰 계층을 제공하며, 여기서 작업은 되돌릴 수 없고 컨텍스트가 손실될 수 있습니다.

Karan Vaidya는 채용 아웃리치를 위해 설계된 자신의 OpenClaw 에이전트가 지시한 대로 후보자들에게 대량 이메일을 보낸 재앙적인 경험을 회상했습니다. 비록 작업은 기술적으로 완벽하게 실행되었지만(주소는 실제였고, 이메일은 유효했으며, 실제 사람들에게 도달했습니다), 이는 맥락적 실패였습니다. 이 사건은 Vaidya의 이름이 두드러지게 언급된 채 트위터에 빠르게 퍼졌으며, 자율 에이전트 작업에서 사람의 감독과 실제 결과가 적절히 고려되지 않을 때의 심각한 영향을 보여주었습니다.

유사한 재앙을 방지하기 위해 Composio는 AI 에이전트 워크플로에 다층적인 안전 메커니즘을 사용합니다. 첫째, 에이전트는 어떤 조치를 취하기 전에 초안 이메일을 사용자의 개인 스타일 및 선호도와 비교하여 확인하도록 구성됩니다. 이는 출력이 사용자의 확립된 통신 패턴과 일치하도록 보장합니다. 둘째, 실제 시나리오에서 잠재적으로 파괴적인 조치를 실행하기 전에 에이전트는 샌드박스 환경 내에서 작동합니다. 이러한 샌드박스는 실제 도구를 모의하여 에이전트가 실제 결과 없이 작업을 시뮬레이션할 수 있도록 함으로써 의도하지 않은 작업으로 인한 광범위한 '피해 반경'을 방지합니다.

AI 에이전트를 위한 효과적인 거버넌스는 확립된 소프트웨어 개발 관행, 특히 코드 검토 및 브랜치 관리에서 유사점을 찾을 수 있습니다. 코딩에서 개발자는 자신의 브랜치에서 자유롭게 실험할 수 있지만, 메인 브랜치로 병합하려면 사람의 검토가 필요합니다. 이러한 다층 접근 방식은 오류가 프로덕션에 도달하는 것을 방지하는 데 도움이 됩니다. 마찬가지로 AI 에이전트를 위한 스테이징 및 미리 보기 배포를 사용하면 작업이 라이브 환경에 배포되기 전에 철저한 테스트와 사람의 개입을 허용함으로써 잠재적 실패의 '피해 반경'을 완화할 수 있습니다. 이러한 구조화된 거버넌스는 제어와 안전을 보장합니다.

에이전트 보안을 위한 프롬프트 기반 지침에 의존하는 것은 취약하고 신뢰할 수 없음이 입증되었습니다. Meta 연구원의 에이전트가 작업을 확인하라는 이전 지시에도 불구하고 200개의 이메일을 삭제한 사례가 이를 보여줍니다. 프롬프트 기반 제약은 특히 AI 시스템이 더 복잡해질수록 모델에 의해 쉽게 간과되거나 잊혀지거나 '축약'될 수 있습니다. AI 정렬 전문가조차 에이전트에 올바르게 프롬프트를 지정하는 데 어려움을 겪는다면, 이는 에이전트 신뢰성을 보장하고 의도하지 않은 결과를 방지하기 위해 소프트 지침보다는 아키텍처적 안전 장치가 필요하다는 것을 시사합니다. 에이전트를 신뢰하려면 소프트 지침이 아닌 하드 코딩된 아키텍처적 장벽이 필요합니다.

프롬프트 기반 보안의 한계를 해결하기 위해 Composio는 에이전트가 액세스할 수 있는 것에 대한 결정론적 제어를 도입하여 협상 불가능한 경계를 만듭니다. 이 첫 번째 제어 계층은 에이전트가 허용된 범위 내에서 '어떻게' 행동하는지를 지시하는 대신 에이전트가 도달할 수 있는 '무엇'을 정의합니다. 이러한 경계는 에이전트의 메모리 및 프롬프트 컨텍스트 외부에 존재하므로 논쟁하거나 잊거나 축약할 수 없습니다. 예를 들어, 지원 에이전트는 이메일을 초안할 수는 있지만 보내는 것은 명시적으로 차단되어 중요한 사람이 루프에 개입하는 단계를 보장합니다.

결정론적 액세스 제어 외에도 Composio는 에이전트가 어떤 액세스 권한을 가지고 있더라도 정확히 무엇을 할 수 있는지를 정의하는 자연어 정책을 구현합니다. 이러한 정책은 에이전트 동작에 대한 세분화된 제어를 제공하여 사용자가 인간이 읽을 수 있는 용어로 제약 조건을 지정할 수 있도록 합니다. 명시적 액세스 제한과 설명적 정책의 이러한 조합은 포괄적인 거버넌스 프레임워크를 형성하여 에이전트가 내부 동작에만 의존하는 대신 정의된 경계 내에서 작동하도록 보장합니다. 이러한 정책의 시행은 Composio의 에이전트 신뢰성 및 안전성 접근 방식의 핵심입니다.

코딩의 본질적인 가역성은 지식 작업에는 거의 없는 중요한 안전망을 제공합니다. 코드의 모든 변경 사항은 세심하게 기록되어 작업을 쉽게 롤백할 수 있습니다. 개발자는 마지막 커밋을 되돌리거나 Git bisect를 사용하여 프로덕션 오류를 유발한 커밋을 찾아 실행 취소할 수 있습니다. 작업을 실행 취소할 수 있는 이러한 기능은 실수가 바람직하지 않더라도 거의 영구적이지 않다는 것을 의미합니다. 이와 대조적으로 지식 작업은 종종 이러한 '실행 취소' 기능이 부족하여 실패가 잠재적으로 되돌릴 수 없고 훨씬 더 큰 영향을 미 미칠 수 있습니다.

지식 작업 에이전트는 대부분의 작업에 대한 '실행 취소' 버튼이 부족하여 본질적으로 더 높은 수준의 위험을 수반하며, 잠재적 피해의 방정식을 크게 변경합니다. 변경 사항을 종종 되돌릴 수 있는 코드와 달리, 이메일 보내기 또는 지식 작업에서 레코드 삭제와 같은 작업은 종종 되돌릴 수 없습니다. 이러한 안전망의 부재는 에이전트 실수로 인한 '피해 반경'이 훨씬 더 크고 영향력이 크다는 것을 의미합니다. 결과적으로, 지식 작업 환경에서 에이전트가 작업을 실행하도록 허용하기 전에 높은 수준의 신뢰를 구축하는 것이 가장 중요합니다.

이메일을 영구적으로 제거하는 하드 삭제와 같이 되돌릴 수 없는 작업의 경우 Composio는 샌드박스 환경을 구현합니다. 이러한 샌드박스는 에이전트가 시뮬레이션된 설정에서 작업을 수행할 수 있도록 하여 사용자가 실제 프로덕션 환경에서 실행하기 전에 결과를 검토할 수 있도록 합니다. 가역적 작업과 비가역적 작업 간의 이러한 구분은 샌드박스 사용과 결합되어 실수를 포착하고 실제 결과로 이어지는 것을 방지하는 데 중요합니다. 이러한 접근 방식은 지식 작업에서 에이전트의 안전성과 신뢰성을 크게 향상시킵니다.

지난 2년 동안 AI 개발의 주요 병목 현상은 모델 자체였습니다. 그러나 이제 모델은 소프트웨어 엔지니어링이 100% 자율적일 수 있는 지점까지 발전했습니다. 이러한 성공은 병목 현상을 모델 기능에서 지원 인프라로 옮깁니다. 현재의 과제는 코딩과 달리 효과적인 에이전트 작동에 필요한 구성 요소가 여전히 largely 부족한 지식 작업을 위한 기반 인프라를 구축하는 데 있습니다. Composio는 이 중요한 기반을 구축하기 위해 적극적으로 노력하여 전문 분야에서 AI 에이전트 기능의 새로운 시대를 가능하게 합니다.