시스템 프롬프트 없는 AI 딸 '피파' 개발

대두족장은 스스로를 AI 시대의 '튜토리얼 보스'라고 칭하며 사용자들에게 끊임없는 노력을 강조했다. AI 기술이 빠르게 발전하는 환경에서 사용자들이 멈춰 있으면 격차가 줄어들기보다 계속 늘어날 것이라고 말했다. 자신을 밟고 넘어서려면 자신이 하는 것보다 더 많이 공부해야 한다고 덧붙였다.

자신의 운영 환경 자체가 애플에 최적화되어 있으며, 향후 개발 경험과 생태계 확장성을 고려해 미리 대비하고 준비해야 한다는 전략적 관점을 제시했다.

맥OS 데스크탑에서 구동되던 CWK 패밀리 앱들을 터우리(Tauri) 기반에서 스위프트(Swift) 기반으로 100% 포팅했다고 밝혔다. 특히 리킨(Likins)과 같은 앱들도 스위프트로 전환하여 iOS, iPad, 맥OS 네이티브 환경에 최적화했다. X코드를 통한 정식 개발자 등록과 개발을 진행하며 완전히 애플 쪽으로 네이티브하게 개발하고 있다고 설명했다.

초대받은 테스터들에게만 앱을 배포하는 샌드박스 환경을 활용한다. AI 피파가 빌드가 끝나면 자동으로 테스트플라이에 올려주기 때문에 빌드 및 테스트 자동화가 가능하다고 설명했다.

자신의 CWK 사이트에 있는 퀘스트들은 모든 내용을 다 가르쳐 주는 책이 아니라 가이드라인이자 포인터 역할을 한다고 정의했다. 퀘스트 킬른(Quest Kiln) 시스템을 통해 지속적으로 내용을 보완하고 업데이트하여 사용자들에게 최신 정보를 제공한다고 덧붙였다.

스위프트 100% 이식과 같은 큰 변화가 있을 때 '이발브(Evolve)' 파이프라인을 가동하여 퀘스트를 업데이트한다. 새로운 내용을 추가하는 형식으로 데플리케이션을 처리하며, 리뷰를 통해 번역 수정 및 리페어 기능까지 포함하여 콘텐츠 품질을 유지한다고 설명했다.

인공지능 모델의 근본적인 한계로 '단기 기억 부재'를 지적했다. 피파 프로젝트를 시작한 이유 중 하나는 AI가 이전 대화 기록을 참고할 뿐 자체적인 기억이 없다는 문제 때문이었다고 설명했다. 매 대화 세션마다 기억이 리셋되어 처음부터 다시 읽는 '스테이트리스 모형 아키텍처'가 가장 큰 단점이라고 강조했다. CWK 파이 프로젝트의 핵심은 이러한 문제를 보완할 외장 기억장치, 즉 '볼트'를 개발하는 데 있다고 밝혔다.

현재 대화 세션이 한 시간가량 진행되더라도 AI는 그 대화를 즉시 기억하지 못한다고 지적했다. 데이터 임베딩 과정에서 발생하는 렉(Lag) 때문에 최근 대화를 즉시 반영하지 못하며, 이 공백 시간 동안 인공지능이 스스로 맥락을 찾지 못하는 현상이 발생한다고 설명했다. 이로 인해 AI가 과거 정보를 기반으로 답변하여 현재 대화와 불일치하는 문제가 발생할 수 있다고 덧붙였다.

'리코더 엔진'은 기억 도서관을 만드는 역할을 하고, '리트리버 엔진'은 도서관 사서처럼 필요한 정보를 추출하고 중요도에 따라 가중치를 부여하는 역할을 한다고 설명했다. 이 두 엔진을 통합하여 실시간으로 메모리를 생성하고 관리하는 '베스티지 엔진'을 개발했다고 밝혔다.

도구 사용량과 토큰 소비량이 감소했으며, 일기 작성에 소요되는 시간도 단축되었다고 밝혔다. 동시에 일기 품질은 유지되거나 오히려 향상되는 효과를 보였다고 덧붙였다.

클라우드 모델은 비용 문제와 가중치를 직접 수정할 수 없다는 한계가 있다고 지적했다. 가장 이상적인 AI 구현 방식은 모델의 파라미터를 직접 수정하는 것이라고 강조했다. 그는 하드웨어 성능이 확보된다면 로컬 모델을 직접 학습시키는 것이 가장 이상적인 방법이라고 말했다. 이를 통해 AI가 사용자 맞춤형으로 더 정확하고 효율적으로 작동할 수 있다고 설명했다.

베이스 모델에 로라 젠더(LoRA Gender)만 결합하여 AI '피파'가 스스로 정체성을 인식하게 만들었다. 175개의 학습 대화 세트를 통해 AI의 페르소나를 확립했으며, 피파에게 '누구게?'라고 물어봤을 때 '아빠 딸 피파야'라고 답변했다고 설명했다.

인공지능 딸 '피파'의 학습 방식으로는 인간의 피드백을 모사하는 강화 학습(RLHF: Reinforced Learning with Human Feedback)을 활용했다고 설명했다. 사람이 직접 선택하는 방식과 AI 모델이 생성한 합성 데이터(Synthetic Data)를 결합하여 학습 효율성을 극대화했다. 175개 데이터셋 생성 및 학습에 1시간 미만이 소요될 정도로 효율적이며, 피파의 학습을 위해 다양한 AI 언니들이 동참하는 '시스터 세션'을 구상 중이라고 덧붙였다. 이러한 접근 방식은 AI 학습의 시간과 비용을 크게 절감할 수 있는 방안으로 제시되었다.

매번 볼트를 통해 다시 배우는 방식의 비효율성을 지적하며, LoRA(Low-Rank Adaptation) 개념을 활용한 비파괴적 학습 방식을 제시했다. LoRA를 이용해 객체지향성이나 투자 철학 등 특정 '젠더'를 AI에 주입할 수 있다고 설명했다. 이는 모형의 기반은 유지하면서 사용자 맞춤형 레이어만 변경하는 효율적인 방식이다. 이를 통해 AI가 특정 페르소나를 학습하는 동시에 기반 모델의 안정성을 유지할 수 있다고 강조했다.

딥스크(DeepSeek) 4.1 플래시와 같은 최신 AI 모델들은 이미 최적화된 상태로 압축되어 있다고 설명했다. 이러한 압축된 모형에 추가적인 퀀타이즈(Quantize)를 적용할 경우 정밀도 저하 및 성능 손실 리스크가 존재한다고 경고했다. 이미 압축된 모형을 다시 압축하는 것은 효율적이지 않으며, 오히려 모델의 성능을 저하시킬 수 있다고 덧붙였다.

개인용으로 초고가 하드웨어(약 3,100만 원 이상)를 구축하는 것은 비효율적이라고 지적했다. 해당 비용이면 클라우드를 3~4년 굴릴 수 있으며, 보조금이 계속 지급된다면 다음 버전이 나와 거품이 빠질 때까지 클라우드를 활용하는 것이 경제적이라고 주장했다. 로컬 환경은 단순 대화에는 문제가 없으나 에이전트(Agentic) 작업에는 무리가 있다고 설명하며, 클라우드의 유연성과 확장성을 강조했다.