Two Sigma의 클라우드 에이전트: 위험, 신원 및 통제

Two Sigma는 25년 동안 운영되어 온 양적 헤지펀드입니다. 회사의 이름인 Two Sigma는 '변동성 시그마'(작은 시그마)와 '큰 시그마 합'의 개념에서 유래했습니다. 이러한 측정항목을 결합함으로써 회사는 위험을 효과적으로 헤지하고 재무 전략에서 차별화된 알파를 달성하는 것을 목표로 합니다.

이 구현의 핵심 측면은 이러한 에이전트가 개별 사용자의 자체 신원 하에 작동하여 회사의 엄격한 규제 프레임워크 내에서 간소화되고 개인화된 경험을 보장한다는 것입니다.

처음에 Two Sigma의 에이전트 채택은 로컬 머신과 명령줄 인터페이스(CLI)에 대한 의존으로 인해 제한적이었습니다. 회사는 이를 넘어 슬랙, 모바일 장치 및 브라우저를 포함한 다양한 플랫폼에서 직원들이 원격으로 에이전트를 사용할 수 있도록 하는 솔루션을 모색했습니다. 이러한 변화는 많은 직원이 CLI 전용 환경을 불편하거나 작업 흐름에 덜 효율적이라고 생각했기 때문에 이루어졌습니다.

사용자에게 별도의 기계 신원을 할당하는 것은 특히 시스템 전반에 걸쳐 권한 동기화를 유지하는 데 상당한 문제를 야기했습니다. 소프트웨어 라이선스 관리가 더욱 복잡해져 각 사용자에 대해 두 개의 별도 라이선스를 처리해야 했습니다. 또한 Google Workspace와 같은 특정 시스템은 동일한 기본 데이터와 상호 작용하는 여러 신원을 지원하는 데 어려움을 겪어 운영 비효율성을 초래했습니다.

이 접근 방식은 이전의 액세스 제약을 효과적으로 제거하고 관리 프로세스를 크게 단순화했습니다. Two Sigma는 다양한 지역에 걸쳐 사용자에게 할당된 기존 Kubernetes 네임스페이스를 활용하여 이러한 통합 에이전트의 원활한 운영 및 액세스를 보장합니다.

귀속은 감사 목적과 조치가 차단되어야 하는지 여부를 결정하는 데 중요합니다. 회사는 조치가 순전히 인간의 행동을 통해 작동하는 인간에게서 비롯되었는지, 아니면 사용자를 대신하여 행동하는 에이전트에게서 비롯되었는지를 식별하기 위한 명확한 흔적을 요구합니다.

LLM(대규모 언어 모델)은 현재 데이터로 기능하려면 외부 웹 액세스가 필요한 경우가 많지만, 이러한 연결은 상당한 보안 취약점을 초래합니다. 한 가지 주요 우려는 민감한 지적 재산 또는 기타 기밀 정보가 잠재적으로 손실되거나 노출될 수 있는 데이터 유출 위험입니다. 이는 민감한 금융 데이터를 다루는 Two Sigma에게 깊은 우려 사항입니다.

데이터 손실 외에도 신뢰할 수 없는 콘텐츠의 유입은 추가적인 위험을 초래합니다. 여기에는 악의적인 입력이 에이전트 동작을 조작할 수 있는 프롬프트 주입 가능성과 맬웨어 및 기타 취약점의 도입이 포함됩니다. 이러한 위협은 회사 시스템의 무결성과 보안을 유지하는 데 상당한 문제를 제기합니다.

특히 프롬프트 주입은 공격자가 보안 조치를 우회하거나 민감한 정보를 추출하도록 설계된 입력을 만들 수 있는 위험입니다. 맬웨어는 시스템을 손상시켜 데이터 유출 또는 운영 중단을 초래할 수 있습니다.

전반적으로 LLM에 대한 외부 웹 액세스를 활성화하는 것은 기능에 유익하지만, 이러한 다양하고 중요한 데이터 유출 및 주입 위험을 완화하기 위한 강력한 보안 프로토콜이 필요합니다.

이 프레임워크는 안전하고 효율적인 운영을 보장하기 위해 다양한 안전 장치와 여러 인터페이스 벡터를 통합합니다. 결과적으로 회사는 이제 모든 직원이 액세스할 수 있는 완전히 관리되는 에이전트 플릿을 제공하여 AI 도구와의 상호 작용을 간소화합니다.

이 배포는 엄격한 보안 표준을 유지하면서 AI를 회사의 일상 업무에 통합하는 데 중요한 진전을 의미합니다. 안전 장치는 무단 작업 및 데이터 유출을 방지하며, 다양한 인터페이스 옵션은 다양한 사용자 선호도 및 작업 흐름을 충족합니다.

관리되는 플릿은 유지 관리 및 업데이트를 단순화하여 모든 에이전트가 최적의 수준으로 일관되게 성능을 발휘하고 최신 보안 프로토콜을 준수하도록 합니다. 이러한 중앙 집중식 관리는 또한 조직 전체에 새로운 에이전트 기능을 더 쉽게 확장하고 배포할 수 있도록 합니다.

이러한 전환은 주로 비용 변동성, 외부 모델의 사용 중단, 최첨단 연구소에 대한 의존도 감소에 대한 우려 때문입니다.

회사는 모델을 내부적으로 관리함으로써 예측할 수 없는 비용을 완화하고 AI 인프라의 수명 및 안정성에 대한 더 큰 통제를 보장하는 것을 목표로 합니다. 이는 또한 Two Sigma가 발전하는 개방형 가중치 모델 기능을 활용하여 강력하고 비용 효율적인 운영 프레임워크를 유지하면서 혁신을 촉진할 수 있도록 합니다.

신원 자체는 가로챌 수 없으므로 강력한 보안 계층을 제공합니다. 시스템은 추적 ID를 사용하여 다운스트림 컨텍스트를 유지하여 통신 프로세스 전반에 걸쳐 원본 신원과 전체 신원 생태계가 보존되고 검증 가능하도록 보장합니다.

고도로 규제된 산업에서 Two Sigma는 캐시된 색인을 활용하여 프롬프트 주입 위험을 크게 줄입니다. 모든 데이터를 내부 경계 내에 유지하고 외부 모델에 비해 노출을 제한함으로써 회사는 더욱 안전한 환경을 보장합니다. 이 내부 큐레이션 전략은 콘텐츠에 대한 더 엄격한 통제를 가능하게 하고 외부 데이터 소스와 관련된 취약점을 줄입니다.

행동 및 세션 데이터는 Two Sigma에서 에이전트 구성을 개인화하는 강력한 도구입니다. 이 데이터를 통해 회사는 개별 사용 패턴에 따라 에이전트를 구성하여 민감한 업무 관련 정보를 보호하면서 각 사용자의 특정 요구에 맞게 조정되도록 합니다. 이 접근 방식은 기존의 계층적 페르소나를 넘어 보다 동적이고 반응적인 에이전트 경험을 가능하게 합니다.

Two Sigma는 회사 내 모든 단일 사용자가 에이전트 개발에 필요한 모든 인프라를 갖추도록 했습니다. 이는 설정에 대한 우려를 없애고 직원들이 개인 네임스페이스에 에이전트를 구축하고 배포하며 개별 신원 하에 실행할 수 있도록 합니다. 이러한 에이전트의 전사적 확장은 표준 생산 지원 프로세스를 따르며 조직 전체에 걸쳐 일관되고 안정적인 배포를 보장합니다.