AI 추천 시스템의 미래에 대한 Devansh Tandon
그의 첫 번째 주장은 추천 시스템이 LLM과 유사한 스케일링 법칙을 보이며 현재 스케일링 곡선의 초기 단계에 있다는 것이고, 두 번째는 LLM 추천 시스템이 AI의 선도적인 소비자 애플리케이션이 될 것이라는 것입니다.
아티클을 불러오는 중입니다
Meta의 Devansh Tandon은 LLM 스케일링을 반영한 추천 시스템이 사용자 경험과 경제적 효율성에 큰 변화를 가져올 것이라고 설명합니다.
그의 첫 번째 주장은 추천 시스템이 LLM과 유사한 스케일링 법칙을 보이며 현재 스케일링 곡선의 초기 단계에 있다는 것이고, 두 번째는 LLM 추천 시스템이 AI의 선도적인 소비자 애플리케이션이 될 것이라는 것입니다.
최근 LLM 물결 이전에도 추천 모델은 주요 기술 기업이 배포한 가장 큰 프로덕션 머신러닝 모델 중 일부였으며, 10억 명 이상의 일일 활성 사용자를 대상으로 했습니다.
오프라인에서 관찰된 개선, 예를 들어 순 엔트로피 감소나 AUC(수신자 조작 특성 곡선 아래 영역) 증가는 대규모로 배포될 때 향상된 사용자 참여와 수익 증가로 직접 이어집니다.
Instagram Reels는 시청 시간이 전년 대비 30% 증가했으며, 이는 부분적으로 추천 품질의 전략적 최적화 덕분입니다.
이러한 개선에는 더 효율적인 모델 스케일링을 촉진하기 위해 랭킹 아키텍처를 단순화하는 작업이 포함되어, 엔지니어들이 훈련에 사용되는 사용자 상호작용 시퀀스 길이를 두 배로 늘릴 수 있었습니다.
이 확장된 컨텍스트는 모델이 사용자 관심사를 더 세밀하게 이해하도록 도와 더 관련性 있고 참여도가 높은 콘텐츠 추천으로 이어집니다.
추천 모델의 스케일링은 모델 훈련이 콘텐츠 추천 개선으로 이어지는 '플라이휠' 메커니즘에 의해 주도됩니다.
이러한 향상된 추천은 일일 활성 사용자와 플랫폼 체류 시간을 증가시키고, 이는 다시 수익화를 촉진하여 추가 훈련 주기에 자금을 제공하고 루프를 지속시킵니다.
다음 중요한 변화, 즉 S-곡선은 Tiger와 Plum 같은 'LLM 네이티브' 패러다임이 될 것으로 예상되며, 이는 추천 작업을 위해 이해하고 추론할 수 있는 기본 모델을 적응시키는 것을 포함합니다.
더 나아가 '에이전트' 패러다임은 LLM을 활용하여 검색 및 랭킹 시스템을 연속 피드백 루프로 조정하여 단일 순방향 전달에 의존하지 않고 계획, 비평, 추천 개선을 가능하게 합니다.
LLM 기반 추천 시스템 구축은 콘텐츠를 토큰화하여 도메인 특화 언어를 확립하는 것으로 시작하는 세 가지 주요 단계를 포함합니다.
이후 단계는 LLM이 영어와 새로 생성된 도메인 언어 모두에 능숙한 이중 언어가 되도록 적응시키고, 사용자 정보로 모델을 프롬프트하여 맞춤형 추천을 디코딩하는 것입니다.
LLM 추천기는 콘텐츠를 LLM이 처리할 수 있는 토큰으로 변환하는 Semantic ID로 시작하는 5계층 아키텍처를 사용합니다.
그런 다음 오픈 웨이트 또는 자체 개발 기본 모델을 활용하고, 영어와 추천 토큰을 연결하는 사전 훈련, 참여 예측을 위한 사후 훈련을 거칩니다. 표면별 미세 조정을 통해 각 제품마다 모델을 처음부터 다시 구축하지 않고도 배포할 수 있으며, 모든 제품 표면에 컴퓨팅을 공유하여 효율성을 높입니다.
이 채널의 새 영상도 아티클로 메일 받으세요.
Semantic ID는 모델이 효과적으로 학습할 수 있는 안정적인 표현을 제공하며, 모델이 단지 암기할 수 있는 끊임없이 변하는 해시 ID와 다릅니다.
압축이 중요합니다. 3분짜리 Instagram Reel은 잠재적으로 10,000 토큰이 될 수 있지만 효율적인 처리를 위해 약 10 토큰으로 압축해야 합니다. 계층적 구조는 모델이 '스포츠'에서 '테니스'로, 그리고 특정 비디오로 이동하는 등 콘텐츠를 분류하는 데 추가로 도움을 줍니다.
그런 다음 모델은 사용자의 상호작용 기록에서 마스킹된 부분을 예측하여 시퀀스 추론을 이해하도록 훈련됩니다. 사후 훈련은 고급 재순위화를 가능하게 하여 LLM이 연쇄 추론을 사용하여 30개 후보 중 상위 5개 추천을 선택할 수 있습니다.
LLM 기반 추천 엔진은 블랙박스 알고리즘을 더 투명하고 사용자 제어가 가능한 시스템으로 변화시켜, 모델이 콘텐츠 순위背后的 이유를 해석하고 언어화할 수 있게 합니다.
사용자는 이제 좋아요나 댓글과 같은 단순한 신호를 넘어 자연어를 사용하여 관심사를 추가하거나 제거함으로써 콘텐츠 피드를 명시적으로 조정할 수 있습니다.
Meta는 사용자가 Instagram 알고리즘과 직접 대화할 수 있는 기능을 적극적으로 테스트하고 있으며, Spotify의 프롬프트 재생목록과 YouTube의 맞춤 피드와 같은 애플리케이션은 이미 상호작용적이고 조정 가능한 AI로의 이러한 전환을 예시합니다.
콘텐츠 피드는 일반적으로 10억에서 100억 개의 매개변수를 가진 더 작은 모델로 작동하는 반면, AI 채팅 앱은 100억에서 1000억 개에 이르는 훨씬 큰 모델을 사용합니다.
피드는 기존 콘텐츠를 가리키는 포인터 역할을 하는 '의미 ID 토큰'을 출력하는 반면, 채팅 앱은 추론 중에 모든 토큰을 생성해야 하므로 계산 비용이 크게 증가합니다.
이러한 구조적 차이로 인해 콘텐츠 피드는 AI 채팅 애플리케이션에 비해 한 시간의 참여를 실행하는 데 최대 100배 더 비용 효율적이며, 특히 피드의 콘텐츠 생성이 강력한 크리에이터 경제에 의해 대부분 크라우드소싱되기 때문입니다.
세계에서 가장 많이 사용되는 상위 10개 앱 중 4개가 콘텐츠 피드이며, 이들의 참여 및 수익화 성장은 추천 및 광고 모델에 크게 기인합니다.
LLM과 추천 시스템의 교차점은 AI 혁신을 위한 중요한 기회를 나타내며, 미래의 연구와 제품 개발은 조정 가능하고 상호작용적인 소비자 및 추천 에이전트를 만드는 데 초점을 맞출 것으로 예상됩니다.
자막에서 근거가 되는 대목을 찾아 답합니다.
AI Engineer의 다음 영상도 받아볼까요?
AI Engineer에 새 영상이 올라오면, 방금 읽으신 것처럼 정리해서 메일로 보내 드릴게요.
이 채널은 지난 7일 동안 29편 올렸어요.
