기업 AI, 데이터 유출 위험…은행권, 해결책 모색

이 중요한 보안 문제는 OpenClaw 및 Hermes와 같은 고급 AI 도구가 다양한 기업 환경에서 널리 채택되는 것을 막는 주요 장벽으로 작용합니다.

AI 지식 기반을 채택하는 기업은 세 가지 주요 범주로 나뉩니다. AI 네이티브 기업은 빠른 기능성을 우선시하며 새로운 기술에 빠르게 적응합니다. 기술 중심 기업은 고급 도구를 중요하게 여기고 최첨단 기능을 위해 운영 위험에 더 관대합니다. 반면, 포춘 등급 은행은 고도로 민감한 자산을 보호하기 위해 극도로 엄격한 보안 요구 사항에 따라 운영되므로 AI 채택이 복잡한 과제입니다.

기업 두뇌의 개념적 모델은 약 5,000개의 상호 연결된 페이지로 구성된 아키텍처를 기반으로 합니다. 이 구조는 마크다운 파일, 메모리 그래프 또는 지식 그래프를 포함한 다양한 모델링 옵션을 허용하여 조직의 지식 표현 및 검색 요구에 가장 적합하도록 유연하게 사용할 수 있습니다.

건강한 기업 두뇌는 조직 내의 역동적인 성장과 변화를 정확하게 반영하기 위해 일관된 일일 업데이트가 필요합니다. 초기 열정은 종종 데이터 통합의 급격한 증가로 이어지지만, 모멘텀이 유지되지 않으면 일반적으로 감소합니다. 그러나 진정한 건강은 공유 소프트웨어 저장소의 일관된 커밋 기록을 관찰하는 것과 같이 일일 업데이트가 꾸준히 증가하는 추세로 특징지어집니다.

초기 기업 AI 도입은 종종 급격히 시들해지는 초기 열정의 급증에서 비롯된 일반적인 실패 패턴을 보입니다. 초기 노력은 종종 Slack 및 이메일과 같은 소스에서 기존 데이터를 분석하기 위한 일회성 설정으로 이루어집니다. 그러나 이러한 자동화된 시스템이 지속적인 인간의 참여를 결여할 때, 데이터 기여는 산발적이 되고, 지속적인 유용성보다는 일시적인 관심 급증에 따라 변동하며, 시스템의 전반적인 관련성 저하로 이어집니다.

기업 AI 두뇌는 조직 내에서 두 가지 주요 사용 사례를 제공합니다. 첫 번째는 공유 협업 지식을 제공하여 개인이 정보에 접근하고 보안 설문지에 응답하는 것과 같은 특정 작업을 지원할 수 있도록 하는 것입니다. 두 번째는 공유 AI 기능을 포함하며, AI가 Slack과 같은 다중 사용자 환경에서 협업 에이전트 역할을 하여 팀 상호 작용 및 자동화된 프로세스를 촉진합니다.

예를 들어, AI는 로그 검색, 사고 조사, 코드베이스 분석, 풀 리퀘스트 생성, 스테이징 및 프로덕션 환경 배포, 경고 설정 등을 도울 수 있습니다. 이 워크플로우는 공유 AI 컨텍스트 내에서 다중 사용자 상호 작용을 필요로 하며, 그렇지 않으면 번거로운 수동 프로세스였을 것을 간소화합니다.

기업 AI 시스템을 구축할 때 단일 지식 그래프나 단일의 정적인 지식 기반을 만드는 함정을 피해야 합니다. 이러한 접근 방식은 역사적으로 비효율적임이 입증되었습니다. 대신, 개별 직원이 시스템의 각 부분을 구축하는 소유권을 가지는 분산 개발 모델이 권장됩니다. 이는 단일의 레거시 전체 시스템을 구축하려는 시도가 비실용적이며 궁극적으로 지속 가능하지 않음을 강조합니다.

기업 두뇌 개발에 대한 사고방식은 정적인 제품을 '구축'하는 것에서 진화하는 시스템을 '성장'시키는 것으로 전환되어야 합니다. 이 접근 방식은 조직 전체의 개별 기여자에게 지식 큐레이션을 위임하는 것을 강조합니다. 시스템은 서로 다른 정보를 자연스럽게 통합하도록 설계되어 기업 두뇌가 유기적으로 확장하고 변화하는 요구에 적응할 수 있도록 해야 합니다.

기업 AI의 중요한 과제는 한 직원이 습득한 지식이 다른 직원에게 즉시 사용 가능하도록 하는 것입니다. 이러한 원활한 지식 이전의 주요 장벽은 대부분의 직원이 공유 저장소에 자신의 작업을 꼼꼼하게 문서화할 시간이나 인센티브가 부족하다는 점입니다. 이는 정보 사일로와 집단 학습의 병목 현상으로 이어집니다.

Slack과 통합하는 것과 같이 소규모 팀을 위한 AI 에이전트를 구축하는 것이 효율적으로 보일 수 있지만, 종종 새로운 정보 사일로를 생성합니다. 문제는 그러한 시스템이 여전히 진정한 기업 두뇌 역할을 하지 못한다는 것입니다. 왜냐하면 하나의 채널 또는 팀 환경 내에 저장된 정보가 잠겨 다른 곳에서는 접근할 수 없기 때문입니다. 이러한 파편화는 통합된 지식 기반의 목적을 훼손하고 또 다른 고립된 데이터 저장소를 도입합니다.

이 파일들은 상호 연결되어 원활한 탐색 및 검색을 가능하게 합니다. 이 접근 방식은 조직 전체에서 접근 가능하며, 중앙 집중화되고 검색 가능하며 링크 가능한 지식 기반을 제공함으로써 사일로를 효과적으로 제거합니다.

에이전트가 자율적으로 지식을 추가하거나 수정하는 것을 허용하는 대신, 시스템은 에이전트가 추가되어야 할 내용과 범위를 제안하도록 합니다. 이러한 인간의 감독은 조용한 오류가 조직의 지식 기반으로 전파되는 것을 방지합니다. 이 워크플로우는 완전 자동화된 쓰기보다 더 통제되지만, 기존 GitHub 풀 리퀘스트 주기보다 빠르고 효율적으로 설계되어 시기적절하고 정확한 지식 업데이트를 보장합니다.

위키에 정보를 추가하는 과정에서 사용자는 각 페이지에 대한 특정 접근 범위를 수동으로 확인하고 할당할 수 있습니다. 이는 위키 내의 모든 페이지가 자체적으로 정의된 범위 집합을 가질 수 있으며, 누가 어떤 콘텐츠에 접근할 수 있는지 결정한다는 의미입니다. AI 에이전트가 마크다운 형식 지정 및 링크와 같은 기술적 구조를 관리하는 동안 사용자는 추가되는 정보의 사실적 정확성과 민감도 수준을 제어합니다.

이 중요한 설계는 사용자가 명시적으로 볼 수 있도록 승인된 정보에만 접근하도록 보장하여 데이터 프라이버시 및 보안을 유지합니다. 인증은 상호 작용의 모든 단계에서 엄격하게 확인되어 AI에 의한 무단 데이터 노출 또는 조작을 방지합니다.

이러한 경우 AI는 보다 효율적인 동일 기반 쿼리로 전환할 것을 제안할 수 있습니다. 이러한 실시간 피드백 루프는 코드를 최적화할 뿐만 아니라 엔지니어에게 학습 기회를 제공하여 시스템 내에서 집단 지식을 구축합니다.

협업 토론을 통해 이러한 갈등의 근본 원인을 식별함으로써 조직은 대화 컨텍스트를 공식 문서로 전환할 수 있습니다. 이 프로세스는 이전에 비공식적이고 기록되지 않았던 중요한 기술적 결정이 접근 가능한 기업 지식 기반의 일부가 되도록 보장하여 미래의 오해와 비효율성을 방지합니다.

AI 상호 작용을 보호하기 위한 아키텍처 솔루션은 엄격한 정책을 포함합니다. 즉, 샌드박스 환경 내에 정적 자격 증명을 저장하는 것을 피하는 것입니다. 대신, 사용자별 자격 증명은 각 상호 작용 중에 HTTP/SQL 계층에 주입되어야 합니다. 이 설계는 AI가 특정 상호 작용에서 인증된 인간 사용자로서 엄격하게 작동하도록 보장하여 무단 접근을 방지하고 강력한 보안 태세를 유지합니다. 사용자 신원을 프록시함으로써 시스템은 AI 작업이 인간 사용자와 동일한 접근 제어 및 권한을 준수하도록 보장합니다.