측정 불가능한 AI 에이전트는 관리할 수 없다

현재 모든 사람이 AI 에이전트를 사용하는 것은 아니다. 잠재 사용자의 상당 부분은 여전히 복사-붙여넣기 작업에 기본적인 챗봇을 사용하고 있으며, 이는 기술적 능력과 광범위한 채택 사이의 격차를 보여준다. 연사는 배우자에게 AI 에이전트를 소개하려 했던 개인적인 일화를 공유하며, 이 에이전트가 제공하는 본질적인 가치를 직관적으로 이해하지 못하는 사람들을 온보딩하는 데 어려움이 있음을 강조했다. 이 문제는 에이전트 기술을 아직 접하지 않은 더 넓은 청중에게 더 명확한 의사소통과 가치 시연이 필요함을 강조한다.

새로운 기술은 대중에게 그 가치를 효과적으로 전달하는 데 종종 어려움을 겪으며, 이는 종종 근본적인 의사소통 격차로 귀결된다. 제임스 와트는 방앗간에서 전통적인 '말 물레'를 대체하기 위해 증기 기관을 도입할 때 이를 직접 경험했다. 발전된 기계에도 불구하고 사람들은 낯선 기계에 위협을 느끼고 익숙하고 실질적인 동력원인 말을 선호했다.

와트는 자신의 증기 기관이 제공하는 효율성 개선을 정량화하기 위한 기준의 필요성을 인식했으며, 이는 잠재 사용자의 기존 정신 모델을 이해해야 함을 의미했다. 그는 '마력' 측정 단위를 만들기 위해 말의 성능을 면밀히 연구했으며, 이는 과학적으로 완벽하지는 않았지만 실질적인 가치를 전달하는 강력한 도구 역할을 했다. 이 측정 단위를 통해 사용자들은 잠재적인 효율성 증가를 측정할 수 있었고, 증기 동력의 추상적인 이점을 더 구체적이고 이해하기 쉽게 만들었다.

고객에게 실질적인 투자 수익률(ROI)을 명확하게 입증할 수 없다면 가치 전달은 거의 불가능하다. 다양한 기술 부문에서 새로운 구현을 통해 얻는 실제 가치를 정확하게 계산하거나 효과적으로 입증하는 데 반복적인 실패가 발생하고 있다. 기업들이 AI 에이전트를 위한 연간 토큰 예산을 한 분기 만에 빠르게 소진하는 우려스러운 추세는 실제로 생성되는 가치에 대한 의문을 제기한다.

이 악순환에는 토큰 사용량 극대화로 인한 상당한 재정 지출, 이어진 번아웃, 그리고 투자 재개를 위한 FOMO(Fear Of Missing Out)를 기다리는 기간이 포함된다. 이 주기를 끊기 위해서는 AI 에이전트 배포를 통해 얻는 실제 가치를 측정하고 입증하는 더 나은 방법 개발이 필수적이다.

단순히 토큰 소비를 추적하는 것에서 벗어나 토큰 지출을 특정 결과와 직접 연결하는 방식으로 전환할 필요성이 커지고 있다. 예를 들어, 특정 토큰 지출을 사용하여 얼마나 많은 버그를 해결했는지, 얼마나 많은 지원 해결이 이루어졌는지에 대한 명확한 지표가 될 수 있다. 코인베이스와 같은 기업들은 이미 어렵고 영향력이 큰 작업에만 최첨단 모델을 우선적으로 사용하고 있으며, 이는 원시 토큰 사용량을 넘어 AI 지출이 측정되는 방식의 변화를 나타낸다. 이러한 전환은 AI 투자를 실질적인 비즈니스 목표와 직접 연결하는 데 중요하다.

AI 코딩 에이전트의 효율성 증가는 개발 프로세스의 병목 현상을 인간 코드 검토로 옮겨놓았다. 이러한 코딩 효율성 증가는 인간의 감독이 필요한 방대한 코드 유입을 발생시켜, 초기 효율성 이점의 일부를 사실상 무효화한다. 코드 생성 자동화에 성공한 개발팀조차도 후속 인간 검토 프로세스에서 상당한 어려움에 직면하며, 이는 더 빠른 소프트웨어 전달의 주요 장애물이 되고 있다.

이러한 진화하는 환경에 적응하기 위해서는 AI 코드 검증을 위한 새로운 공유 문화적 규범을 확립하는 것이 필수적이다. 초점은 단순히 실행 속도를 가속화하는 것에서 벗어나 인간 검토 주기보다는 계산 속도 자체로 측정 및 검증을 달성하는 것으로 바뀌어야 한다.

'마우스파워' 개념은 에이전트 시대의 마력에 해당하는 잠재적 개념으로, 컴퓨터 기반 작업의 효율성 기준선 역할을 한다. 이 아이디어는 효율성에 대한 명확한 척도를 확립하기 위해 기계를 말의 노동과 비교했던 제임스 와트의 역사적 방법을 반영한다. 이제 AI 에이전트의 성능에 대한 표준화된 단위를 확립하여 인간 상호작용과 효과적으로 비교할 수 있도록 하는 것이 과제이다.

커서 이동을 측정하는 방법을 단순히 만들고 델타를 계산하여 에이전트가 얼마나 더 효율적으로 만들 수 있는지 판단하는 것은 실현 불가능하다. 스피커가 클로드를 사용하여 마우스 움직임 측정 장치를 만들려고 했던 실패한 실험은 에이전트 성능 대비 인간-컴퓨터 상호작용을 정량화하는 데 있어 복잡성을 강조했다. 커서 속도와 같은 단순한 지표는 AI 에이전트가 제공하는 전체 투자 수익률(ROI)과 가치를 포착하지 못한다.

핵심 아이디어는 에이전트가 판매될 때 그 효과를 검증하고 토큰 비용을 정당화할 수 있는 명확한 기준이 함께 제공되어야 한다는 것이다. 궁극적인 목표는 AI 에이전트 투자에 대한 명확하고 이해하기 쉬운 가치 평가를 제공하여 기업이 투자를 정당화할 수 있도록 돕는 것이다.

정보 이론, 특히 클로드 섀넌의 엔트로피 개념은 오늘날 AI 에이전트가 훈련되는 방식의 근본적인 기반을 형성한다. 엔트로피는 에이전트에 할당된 작업에 내재된 불확실성을 측정하는 데 효과적으로 활용될 수 있다. 제안된 프레임워크는 실행 단계의 불확실성과 수락 기준의 불확실성이라는 두 축을 따라 작업을 매핑하여 작업 평가에 대한 구조화된 접근 방식을 제공한다.

작업은 다양한 수준의 불확실성을 나타낸다. 예를 들어, 항공권 예약은 예측 가능한 단계별 특성으로 인해 불확실성이 훨씬 적은 반면, 걸작을 그리는 것은 매우 예측 불가능한 경로와 창의적인 결정을 수반한다. 불확실성이 낮은 작업은 복잡한 AI 에이전트보다는 간단한 스크립트에 의해 더 효율적으로 처리되는 경우가 많다. 항공권 구매의 예측 가능한 정보 흐름은 창의적인 노력의 개방형 특성과는 극명하게 대조된다.

에이전트가 수행한 작업의 정확성을 단순히 확인하기 위해 인간이 작업을 반복해야 한다면 에이전트의 가치 제안은 크게 줄어든다. 가장 효과적인 에이전트 작업은 관리 가능한 불확실성의 '황금 지점'에 있으며, 여기서 유효성 검사는 원래 작업의 복잡성을 반영하지 않고 명확하다.

AI 에이전트에게 이상적인 작업은 도전할 만큼 충분히 복잡하지만 쉽게 검증할 수 있을 만큼 충분히 명확한 작업이다. 이러한 작업은 종종 NP형 문제와 유사하며, 검증이 초기 실행보다 훨씬 쉽다. 기본 AI 에이전트가 생성한 출력물을 확인하고 검증하는 작업을 자동화할 수 있는 전용 '검증 에이전트'를 구축하여 전체 프로세스를 간소화할 것을 권장한다.