에이전트-에이전트 상호작용을 검색 문제로 재해석

Jean-Denis Greze는 '에이전트-에이전트' 상호작용의 개념이 대체로 오해되고 있으며, 그 본질은 검색 문제라고 주장합니다. 그는 LLM 시스템에 대한 논의를 정보를 효율적으로 검색하고 제시하는 관점에서 재구성할 것을 제안합니다.

모든 LLM 시스템의 주요 목표는 도구 호출이 실행되기 직전에 가장 관련성 높은 정보로 컨텍스트 창을 정확하게 채우는 것입니다. 이 프로세스는 모델이 작업을 효과적으로 수행하는 데 필요한 모든 데이터를 갖도록 보장합니다.

이 접근 방식은 초기 컨텍스트 채우기 방식에서 발전하여 순전히 인간의 수동 입력에서 검색 도구를 사용하는 검색 증강 생성(RAG)으로 이동했으며, 이제는 더 정교한 에이전트 검색 메커니즘으로 발전하고 있습니다.

에이전트 시스템의 개념적 이상은 우주에서 사용 가능한 모든 정보에 무제한 접근 권한을 부여하는 단일 컨텍스트 창을 가진 단일 통합 에이전트를 포함합니다. 이 이론적 구성은 완전한 데이터 가시성을 고려할 때 원하는 결과를 달성하기 위한 가장 효율적이고 최적의 방법을 나타냅니다.

그러나 이러한 이상은 거래 비용(이 경우 주로 개인정보 보호 및 보안)이 이러한 보편적 접근을 달성하는 데 중요한 장애물임을 강조하는 '코즈의 정리' 원칙에 의해 제한됩니다.

보편적 데이터 접근의 이론적 이점에도 불구하고, 개인정보 보호 및 보안에 대한 실제 우려는 에이전트를 위한 진정으로 전역적인 컨텍스트 창을 구축하는 데 상당하고 종종 극복할 수 없는 장벽을 만듭니다. 인간 상호작용 및 기업 구조는 본질적으로 정보의 분리(사일로)에 의존하며, 이는 데이터 접근을 위해 단순히 제거될 수 없습니다.

따라서 다중 에이전트 시스템의 성공은 확립된 보안 프로토콜 및 개인정보 보호 제약을 엄격히 준수하면서 '전지적' 에이전트의 기능을 근사화하는 능력으로 측정됩니다.

에이전트 시스템에서 데이터 접근을 관리하는 효과적인 전략 중 하나는 사전 정의된 공유 신뢰 경계 내의 모든 데이터에 에이전트에게 포괄적인 접근 권한을 제공하는 것입니다. 이 경계는 가족 단위, 특정 프로젝트 팀 또는 조직 내 전체 부서를 포함할 수 있습니다.

이 접근 방식의 예로는 공유 작업이나 정보를 관리하기 위해 두 파트너의 이메일 계정에 접근 권한이 부여된 부부가 사용하는 공동 에이전트가 있습니다. 이 설정은 데이터 접근이 합의된 도메인 내에 유지되도록 보장합니다.

기업 환경, 특히 HR 및 IT 팀은 승인된 인적 담당자와 동일한 접근 수준 및 권한을 에이전트에게 할당함으로써 이 전략을 채택합니다. 이는 서비스형 소프트웨어(SaaS) 애플리케이션에 일반적으로 사용되는 보안 모델과 유사합니다.

시스템 내에서 자동화된 정보 공유의 중요한 위험은 잘못된 데이터가 널리 전파되어 시스템 오류를 유발할 가능성입니다. 예를 들어, 공유 위키에 실수로 잘못된 정보가 포함되어 있으면 그 오류가 전체 데이터 세트를 '오염'시킬 수 있으며 모델이 일단 학습하면 되돌리기가 어려울 수 있습니다.

모델이 잘못된 정보를 지식 기반에 통합하면 실수를 되돌리기가 매우 어려울 수 있으므로 문제가 심화됩니다. 이는 법적 분쟁이나 데이터 무결성을 담당하는 직원의 해고를 포함하여 심각한 비즈니스 결과를 초래할 수 있습니다.

블랙박스로 작동하는 자동화된 개인정보 보호 시스템의 개념적 매력에도 불구하고, 실제로는 불투명하게 유지될 수 없습니다. 조직은 데이터가 어떻게 접근되고 공개되는지 이해하기 위해 불가피하게 감사 추적을 요구할 것입니다.

C-suite의 감독에 대한 근본적인 요구 사항이 있으며, 자동화된 시스템조차도 운영 및 데이터 처리에 대해 책임감 있고 투명하게 운영되도록 보장합니다.

에이전트 시스템의 미래 개척지는 '자동 모드'로의 전환에 있습니다. 여기서 AI는 낮은 민감도 정보에 대한 개인정보 보호 결정을 자율적으로 처리할 것입니다. 이 변화는 모델이 최소한의 위험을 초래하는 데이터를 추출하고 공유하는 데 익숙해짐에 따라 예상됩니다.

모델 용량의 개선은 더 강력한 안전 정책 및 정교한 위험 평가 기능 개발을 향상시킬 것으로 예상됩니다. 이러한 발전은 AI가 데이터 공유에 대해 더 미묘한 판단을 내릴 수 있도록 할 것입니다.

예를 들어, AI는 회의록의 민감도를 평가하고 사용자 역할 및 확립된 정책을 기반으로 공유 여부 및 방법을 결정하여 이전에 인간의 재량이 필요했던 작업을 자동화할 수 있습니다.

특히 데이터 사일로 전반에 걸쳐 자동화된 에이전트-에이전트 상호작용을 구현하기 시작하려면, 조직이 LLM이 자율적인 공개 결정을 내릴 수 있도록 허용하는 특정 '낮은 민감도 영역'을 먼저 정의하는 것이 좋습니다. 이 전략적 시작점은 개인정보 보호 관리에서 AI의 기능을 탐색하면서 위험을 최소화합니다.

시간이 지남에 따라 모델 용량이 계속 증가함에 따라 시스템의 확장성 및 더 복잡한 시나리오를 처리하는 능력이 자연스럽게 향상될 것입니다. 이 점진적인 접근 방식은 인간 직원이 복잡한 판단과 감독이 여전히 필요한 고가치 작업에 주의를 집중할 수 있도록 합니다.

에이전트 기술의 다음 중요한 발전은 회사 간 에이전트 네트워크의 개발입니다. 여기서 여러 조직은 공통 에이전트가 각 정보 사일로에서 작동하도록 동의합니다. 이는 복잡하지만 조직 간 데이터 공유에 잠재적으로 혁신적인 도약을 나타냅니다.

이러한 협업 에이전트 네트워크의 초기 사용 사례가 특히 투자 은행 및 대출과 같은 고도로 상호 연결된 부문 내에서 나타나기 시작했습니다. 이러한 산업은 종종 광범위하고 안전한 데이터 교환을 필요로 하므로 에이전트 매개 솔루션을 탐색하기 위한 주요 후보가 됩니다.

개인정보 보호 결정을 AI 에이전트에게 전적으로 위임하는 것에 대한 광범위한 철학적 함의는 중요한 탐구 영역으로 남아 있습니다. 에이전트가 개인 및 민감한 정보에 대한 모든 중요한 판단을 내리는 자동화된 미래에 인간의 신뢰를 어느 정도까지 둘 수 있고 두어야 하는지에 대한 질문이 계속됩니다.