AI 메모리를 소유하세요, 빌리지 마세요

Qdrant의 개발자 관계 엔지니어인 딜런 쿠존은 초지능을 둘러싼 핵심 논쟁이 그 도래가 아니라 소유권이라고 강조했습니다. 그는 두 가지 다른 경로를 제시했습니다: 하나는 데이터 센터에서 토큰으로 비용을 지불하는 서비스로서의 초지능이고, 다른 하나는 개인의 삶에서 배우는 개인적인 실체로서의 초지능입니다.

이러한 이분법은 사용자가 다른 사람의 인프라에 있는 AI를 구독하거나, 본질적으로 자신의 것인 로컬화된 지능을 소유하는 미래의 발판을 마련합니다.

이러한 비서들과의 모든 새로운 세션은 과거 사용자 선호도, 수정 사항 또는 학습된 정보에 대한 기억 없이 시작되어 시간이 지남에 따라 지식을 축적하는 진정으로 지속적인 '두 번째 마음'의 개발을 방해합니다.

2,500달러 미만의 개인 하드웨어는 이제 정교한 모델을 처리하며, 로컬 머신과 산업 프론티어 간의 성능 격차는 분기마다 줄어들고 있습니다.

매 분기마다 개선되는 이 줄어드는 성능 격차는 사용자가 모델과 계산 능력을 모두 소유함으로써 클라우드 기반 AI로부터 자율성을 되찾는 첫 번째 중요한 단계를 의미합니다.

Fable 및 Mythos 5에 영향을 미치는 것과 같은 규제 변화 또는 공급자 측 스로틀링은 임대 인프라에 의존할 때 개발자를 취약하게 만듭니다.

또한, 에이전트 루프에 의존하는 개발자들은 종종 월 5,000달러를 초과하는 지속 불가능한 운영 비용에 직면하며, 이는 헤비 컴퓨팅 사용자에게 대한 현재 공급자 보조금이 임시적이며 소유권에 대한 장기적인 해결책이 아님을 나타냅니다.

AI 모델의 추론 기능을 소유하는 것은 자율성을 부여하여 외부 개체가 모델에 대한 액세스를 취소할 수 없도록 보장합니다.

그러나 AI가 과거 상호 작용을 유지하고 발전시키도록 하는 진정한 연속성은 메모리를 소유함으로써만 달성될 수 있으며, 이는 모델의 본질적인 장기 유지 능력 부족으로 인해 주요 AI 연구소들이 현재 패키징하여 재판매하려는 기능입니다.

검색은 마크다운 파일에 데이터를 저장하는 것만으로는 달성할 수 없는 수준의 제어를 제공하며, 주제별 고급 필터링, 최신성 및 빈도에 기반한 감쇠, 시간에 따른 관련성 동적 조정을 가능하게 합니다.

임베딩은 2019년부터 로컬에서 실행 가능했으며, 대규모 모델 사용이 널리 퍼지기 전부터 존재했으므로, 초지능에 대한 기술적 도전은 메모리의 존재 자체가 아니라 그 적용에 있었음을 나타냅s니다.

안드레이 카르파티(Andrej Karpathy)의 비유는 모델을 CPU에, 컨텍스트 창을 휘발성 RAM에, 영구 메모리를 디스크에 비유하며, 대부분의 AI의 '디스크'가 타사 데이터 센터에 존재하여 디지털 기억에 대한 진정한 사용자 소유권과 통제를 방해한다는 점을 강조합니다.

이 가벼운 시스템은 전화나 라즈베리 파이와 같은 장치에서 실행될 수 있으며, 로컬 프로세스 자체 내에 상주하여 애플리케이션이 닫힌 후에도 메모리가 지속되도록 보장합니다.

데모는 최소 15MB 공간 내에 92개의 인식된 객체와 300개의 벡터를 포함하여 로컬 메모리 저장의 효율성을 보여주었습니다.

의미론적 검색 기능은 '커피 테이블'과 같은 특정 객체의 모든 인스턴스를 1밀리초 미만에 검색함으로써 시스템의 저장된 메모리에 대한 빠른 액세스를 입증했습니다.

시연된 시스템의 모든 처리는 로컬에서 작동하며, 핵심 기능에 네트워크 연결이 필요하지 않습니다.

그러나 Qdrant Edge는 클라우드 동기화도 지원하여 멀티 로봇 '하이브 마인드'를 생성할 수 있으며, 한 시스템의 학습 내용을 전체 스웜에서 공유할 수 있습니다.

사용자 수정 및 선호도를 지속적으로 기억하는 AI는 반복적인 실수를 피하고, 적당한 능력을 가진 모델조차도 수년 동안 그 가치를 복합적으로 증가시킬 수 있습니다.

다양한 하드웨어 및 장치 간에 이동할 수 있는 휴대용 메모리 폴더에 의해 촉진되는 이러한 지속적인 학습은 모델 자체의 변화 때문이 아니라 사용자와의 학습 능력이 중단되지 않기 때문에 모델을 실제로 '초인적'으로 느끼게 합니다.

현재 스마트 글래스 기술은 이미 이러한 실시간 검색을 가능하게 하며, 본질적으로 '더 똑똑해지는' 것이 아니라 '잊지 않도록' 하는 개인 기억의 확장으로서 AI를 만드는 것을 목표로 합니다.

개인 메모리 저장소를 구축하면 가족 내에서 분산된 '하이브 마인드'가 가능해지며, 데이터 공유는 명시적으로 선택 사항이므로 공유 정보에 대한 보안 및 개인 제어를 보장하기 위한 로컬 우선 아키텍처의 필요성을 강조합니다.

사용자는 표준 챗봇에만 의존하기보다는 자신만의 개인 메모리 시스템을 개발하도록 권장됩니다. 왜냐하면 '원하는 유일한 초지능'은 개인적이고 지속적이며 개별 사용자에 의해 훈련된 것이기 때문입니다.