AI 모델 데이터 중심 설계 중요성

더스틴 마이할릭은 인디드 AI 플랫폼을 담당하는 팀에서 AI 가드레일, 게이트웨이, 그리고 컴플라이언스 관련 업무를 수행하고 있다고 밝혔습니다.

그는 벤더사와의 협업 프로젝트를 통해 AI 기술을 안전하게 도입하고 규정을 준수하는 데 중점을 두고 있다고 설명했습니다.

채팅 기반 검색 응답은 기본적으로 텍스트 형태로 제공되어 브랜드 표시가 어렵다는 문제가 있습니다.

모델이 외부 링크를 제공하는 것을 꺼리는 경향이 있어, 사용자가 원하는 정보를 직접 찾기 어려운 등 사용자 경험 저하로 이어질 수 있다고 지적했습니다.

MCP 앱과 SDK를 활용하면 UI 요소에 대한 통제권을 확보할 수 있다고 설명했습니다. 이를 통해 ‘지원하기’ 버튼 추가 여부나 상단에 강조할 정보를 직접 결정할 수 있습니다.

또한, 팝업이나 모달 기능을 활용하여 상세 정보를 사용자에게 효과적으로 제공함으로써 사용자 경험을 개선할 수 있다고 덧붙였습니다.

데이터 로드를 위해 기존 API를 호출하는 단순한 방식을 사용할 경우, 모델은 화면에 표시된 상세 데이터를 인지하지 못하는 블랙박스 상태가 됩니다.

이는 모델이 사용자에게 제공되는 정보를 정확히 알지 못해 후속 질문에 효과적으로 대응하기 어렵게 만들며, 데이터를 어떻게 표현하고 사용자에게 제공할지 신중하게 고민해야 한다고 강조했습니다.

MCP 앱을 구축할 때 가장 중요한 규칙은 사용자에게 보여주는 모든 내용을 모델에게도 데이터로 제공해야 한다는 것입니다. 이는 모델이 사용자 경험을 완전히 이해하고 반응하도록 돕기 위함입니다.

이를 위해 리소스 URI와 구조화된 콘텐츠를 활용하여 데이터를 명확하게 전달해야 합니다. API 업데이트 시에도 데이터 동기화를 유지하여 모델이 항상 최신 정보를 반영하도록 해야 합니다.

화면에 표시되는 모든 데이터가 모델에게도 전달되어야 모델이 그 정보를 바탕으로 적절한 판단을 내리고 사용자 질문에 정확하게 응답할 수 있습니다.

사용자가 UI에서 버튼을 클릭하는 등의 상호작용을 할 때, 모델은 기본적으로 사용자가 무엇을 보고 있는지 알지 못합니다. 이로 인해 클릭된 정보에 대한 후속 질문에 적절히 대응하기 어렵습니다.

따라서 사용자 상호작용에 관한 모든 정보를 모델에게 제공하여 컨텍스트를 지속적으로 업데이트해야 합니다. 이는 모델 컨텍스트 업데이트 메서드를 활용하여 구현할 수 있습니다.

기존의 단일 문자열 처리 방식은 모델이 데이터의 복잡성을 이해하고 유연하게 반응하는 데 한계가 있습니다. 그는 데이터 처리와 UI 렌더링을 분리해야 한다고 강조했습니다.

이러한 분리를 통해 모델은 데이터 탐색 능력을 향상시키고, 효율적인 UI 표시를 통해 사용자 경험을 개선할 수 있는 유연성을 확보할 수 있습니다.

사용자가 이사, 급여 수준, 산업 분야 등 다중 필터링을 포함하는 복합적인 검색 요청을 할 때, 일반적인 검색 방식으로는 한계가 있습니다.

클로드와 같은 고급 AI 모델은 여러 번의 검색을 수행하여 이러한 정보를 구조화하고 사용자 의도에 맞는 결과를 제공할 수 있습니다.

UI를 미리 고정하여 제공할 경우, 모델은 한 번의 호출로 이미 결과가 표시되었다고 판단하여 더 깊은 정보 탐색을 중단하는 판단 오류를 겪을 수 있습니다.

그는 10개의 캐러셀 예시를 통해 모델이 추가 검색을 하지 않아 비효율적인 결과를 초래할 수 있음을 지적하며, 이는 모델의 잠재력을 제한한다고 설명했습니다.

검색 기능은 단순히 ID 목록을 획득하고, 실제 UI 렌더링은 별도의 렌더링 위젯이 담당하도록 분리해야 한다고 주장했습니다.

이러한 분리 덕분에 모델은 필요한 데이터를 스스로 선택하여 렌더링 위젯에 전달함으로써 유연하고 효율적인 UI 생성을 유도할 수 있습니다.

모델이 데이터를 얻기 위해 특정 도구를 먼저 호출하도록 안내하는 도구 설명 업데이트의 중요성을 강조했습니다. 이는 모델이 적절한 데이터 수급 절차를 따르도록 돕는 역할을 합니다.

도구 설명을 작성할 때는 데이터 형식을 명확하게 정의하여 모델이 정확한 데이터를 파싱하고 활용할 수 있도록 해야 한다고 덧붙였습니다.

단순히 데이터를 렌더링하는 것을 넘어, 모델이 데이터를 선택한 이유를 설명하거나 채용 공고의 핵심 부분을 강조하도록 유도하는 기능을 추가할 수 있다고 언급했습니다.

이는 모델의 창의적 특성을 활용하여 사용자에게 더욱 풍부하고 맥락적인 정보를 제공함으로써 사용자 경험을 향상시킬 수 있는 방법입니다.

MCP 앱을 구축할 때 UI에 집중하기보다 모델에게 어떤 데이터를 제공할 것인지에 먼저 집중해야 한다고 강조했습니다.

이는 데이터 탐색의 부수적인 결과로서 렌더링을 활용하여 모델이 데이터를 충분히 이해하고 그에 기반한 UI를 생성하도록 유도하는 것입니다.

작고 조합 가능한 도구의 중요성을 강조하며, 이는 모델이 과부하되지 않도록 단순한 도구 설명을 유지하면서도 유연성을 부여하는 데 도움이 된다고 설명했습니다.

검색 도구와 렌더링 도구를 세분화하여 모델이 데이터를 탐색하고 도구를 렌더링하는 방식에 유연성을 확보함으로써 효율적인 AI 앱 개발이 가능해집니다.