에이전트 사이트: 초개인화된 웹 경험

핵심 아이디어는 "사용자가 무엇을 하고 있는가? 사용자가 무엇을 달성하려고 하는가?"를 실시간으로 이해하는 것입니다. 이 접근 방식은 사용자 참여를 강화하고 전환율을 높이기 위해 웹 페이지를 동적으로 개인화하는 것을 목표로 합니다.

에이전트 사이트의 기술 기반은 모든 콘텐츠를 엣지에 배치하여 빠른 배포를 가능하게 하는 AMX 딜리버리 제품에 의존합니다. 이 설정은 다양한 LLM(대규모 언어 모델) 공급자를 통합하는 강력한 백엔드 서비스에 의해 보완됩니다. 산체스는 특히 이 스택 내에서 탁월하게 빠른 추론 기능을 시연하기 위해 Cerebras의 사용을 강조했습니다.

콘텐츠 환각을 방지하고 엄격한 브랜드 가이드라인을 유지하기 위해 에이전트 사이트는 전체 웹사이트를 처음부터 생성하지 않습니다. 대신, 기존 사이트 내에서 특정 콘텐츠 블록을 개인화하는 데 중점을 둡니다. 현재 사이트는 RAG(검색 증강 생성) 코퍼스 역할을 하여 생성된 모든 콘텐츠가 브랜드의 확립된 목소리 및 가이드라인과 정확하고 일관되도록 보장합니다.

데모에서는 감지된 사용자 특성에 따라 사이트가 콘텐츠를 조정하는 즉석 페르소나 조정과 같은 여러 실용적인 개인화 기능을 선보였습니다. 검색 결과 페이지는 개별 사용자를 위해 동적으로 맞춤화되며, 검색 기록 및 쿼리 분석을 기반으로 실시간으로 추천이 생성됩니다. 이를 통해 깊이 반응적이고 관련성 높은 사용자 경험이 가능해집니다.

산체스는 에이전트 사이트의 성능이 특정 사이트와 그 요구사항에 크게 의존한다고 강조했습니다. 이를 해결하기 위해 Prompt Foo와 같은 도구를 활용한 지속적인 평가 프로세스가 마련되어 있습니다. 이 도구는 AI 모델의 정확성과 속도를 지속적으로 테스트하여 다양한 모델 공급자에서 실시간 성능을 보장하는 데 도움이 됩니다.

개발팀은 정확성과 속도라는 두 가지 주요 측정 항목을 우선시하며, 페이지당 1~2초의 생성 시간을 목표로 합니다. 빠른 사이트 생성은 더 높은 전환율과 직접적으로 연결되므로 낮은 지연 시간은 중요한 요소입니다. 벤치마킹 결과에 따르면 Cerebras와 Google의 Gemma 4 모델을 사용할 때 지연 시간은 1.1초였습니다.

성능 벤치마크에 따르면 Cerebras는 평균 1.1초의 페이지 생성 속도를 달성했습니다. 이와 대조적으로 테스트된 다른 모델들은 4.6초를 초과하는 훨씬 느린 시간을 보였습니다. 이러한 현격한 차이는 개발자가 실시간 개인화를 위한 특정 사용 사례 요구사항과 관련하여 모델 속도를 신중하게 고려하는 것이 중요함을 강조합니다.

일반적인 가정과는 달리, 웹 UI 생성을 위해 항상 대규모 LLM이 필요한 것은 아닙니다. 텍스트 생성 및 웹사이트의 콘텐츠 블록 구성과 같은 관련 작업은 더 작고 특화된 모델로 효율적으로 처리될 수 있습니다. 이 접근 방식은 컴퓨팅 오버헤드를 줄여 더 빠르고 반응성 있는 사용자 경험을 제공합니다.

사용자의 브라우징 행동과 쿼리는 지속적으로 기록되어 입력 신호로 LLM에 제공됩니다. 이 데이터를 통해 시스템은 실시간 사이트 개인화를 트리거하여 히어로 카드, 탐색 메뉴, 제품 목록과 같은 요소를 동적으로 수정할 수 있습니다. 지속적인 피드백 루프는 사이트가 사용자의 변화하는 요구와 관심사에 매우 관련성을 유지하도록 보장합니다.

사용자 쿼리는 '무언가를 구매하려는' 행동과 '정보를 얻으려는' 행동을 구분하여 특정 의도 유형 또는 페르소나로 체계적으로 그룹화됩니다. 이 분류를 통해 마케터는 AI가 개별 고객 세그먼트와 상호 작용하는 방식을 관리할 수 있습니다. 그런 다음 AI는 이러한 정의된 의도 클러스터를 기반으로 최적의 콘텐츠 블록을 선택하고 결합하여 더욱 타겟팅되고 효과적인 참여를 유도합니다.

모든 생성된 이미지에 대한 브랜드 가이드라인과의 일관성 유지가 중요합니다. LLM 응답은 제품 가이드와 블로그를 소스 자료로 활용하여 정확성과 멀티미디어 콘텐츠의 브랜드 정렬을 모두 보장합니다.

사용자의 브라우저는 행동 및 의도에 대한 신호를 수집합니다. Google 및 Cloudflare와 같은 다양한 클라우드 공급자에 분산될 수 있는 백엔드 시스템은 LLM을 호출하고 사이트의 기존 콘텐츠를 기반으로 구축된 RAG(검색 증강 생성)를 활용하여 동적 생성을 수행함으로써 추론을 수행합니다. 그런 다음 엣지 컴퓨팅은 정적 콘텐츠와 개인화된 페이지를 사용자에게 효율적으로 제공하는 것을 처리합니다.

'단 한 명의 고객(Audience of One)' 철학은 에이전트 사이트의 기반이 되며, 마케터들의 오랜 꿈인 개별 개인화를 실현하는 것을 목표로 합니다. 이 사이트들은 각 사용자의 특정 여정과 선호도에 맞춰 동적인 제품 스토리텔링을 보여주면서 고객별 고유한 경험을 제공합니다. 이를 통해 이전에는 달성할 수 없었던 수준의 개별화된 마케팅이 가능해집니다.

시스템은 사용자 행동을 지속적으로 추적하여, 페이지 방문 기록과 각 페이지에서 보낸 시간에 따라 사용자를 '탐색 중'과 같은 범주로 분류합니다. 이 실시간 데이터는 LLM에 공급되어 콘텐츠를 개인화할 수 있게 합니다. 사용자가 사이트를 탐색하고 상호 작용하는 방식을 이해함으로써 LLM은 개별 선호도에 맞춰 결과를 동적으로 조정할 수 있습니다.

시스템은 약 1.1초의 총 페이지 생성 시간을 달성하는 인상적인 성능 지표를 보여줍니다. 이는 Google의 Gemma 4 모델을 실행하는 Cerebras 하드웨어를 사용하여 달성되며, 초당 2,200~2,300 토큰의 처리량을 제공합니다. 이러한 최적화된 벤치마크는 개인화된 웹 경험을 생성하는 기본 인프라의 효율성과 속도를 강조합니다.

이 플랫폼은 개발자가 다양한 LLM 모델을 실험하고, 온도 설정을 조정하고, 토큰 제한을 설정할 수 있는 유연한 제어 기능을 제공합니다. 이 기능을 통해 다양한 구성이 콘텐츠 생성 및 사용자 경험에 미치는 영향을 직접 관찰할 수 있습니다. Prompt Foo를 통한 자동화된 테스트와 함께 수동 개입도 가능하여 생성 모델을 조정하는 포괄적인 접근 방식이 가능합니다.

이를 통해 완벽하게 개인화된 음성 활성화 상호 작용이 가능하며, 개별 사용자 의도에 맞춰진 '거실' 경험을 만듭니다. 사용자는 음성을 통해 쿼리를 할 수 있으며, 시스템은 예를 들어 Google TV에서 개인화된 콘텐츠를 스마트 TV로 직접 전달합니다.

에이전트 사이트는 웹 상호 작용의 진화하는 표준을 나타내며, 근본적으로 의도 기반 콘텐츠 조립에 중점을 둡니다. 이 기술은 시간이 지남에 따라 더 저렴하고, 빠르며, 더욱 광범위하게 보급되면서 지속적인 개선을 이룰 것입니다. 핵심 가치는 "사용자가 무엇을 하려고 하는가?"를 이해하고 그 의도를 중심으로 페이지 콘텐츠를 동적으로 구축하는 데 있으며, 다중 모델 통합이 추가적인 성능 향상을 이끌 것으로 예상됩니다.