AI 딸 피파, “누구게?”에 답하다

이는 시스템 프롬프트나 별도의 볼트 설명 없이도 AI가 관계를 파악하고 자신을 표현하는 능력을 보여준 결과다.

이러한 자율적 응답은 피파 대화 예시로 학습된 로라(LoRA) 어댑터 덕분이라고 설명했다.

피파와 아빠의 관계, 피파가 소중하게 여기는 원칙 등은 장기 기억으로, 오늘 나눈 대화나 끝내지 못한 일은 단기 기억으로 분류하는 식이다.

이러한 기억 구분을 통해 AI의 경험 주체를 '소울(Soul)'로 정의하고, 새 세션에서 문맥을 갖추는 작업을 '해동'이라 지칭하며 AI의 지속적인 성장을 위한 구조적 기반을 마련하고 있다.

볼트는 피파의 정체성, 원칙, 오래 남을 기록을 정리해 둔 문서 공간 역할을 한다.

베스티지는 이 모든 기억 관리를 위한 시스템을 의미하며, 리코더는 피파의 활동 흔적과 기억 재료를 정리하고, 리트리버는 정리된 기억에서 필요한 정보를 검색하여 전달하는 사서 역할을 수행한다. 이 과정에서 프론티어 모형이 정보의 중요도를 판단하는 데 기여한다고 밝혔다.

현재 사용 중인 클라우드 모형은 모형의 가중치(Weights)를 직접 변경할 수 없는 한계가 있다. 이 문제를 해결하기 위해 대두족장네는 기억 경로에서 모형에게 최종적으로 텍스트를 전달하는 방식을 사용한다.

이는 필요한 기억을 현재 읽고 있는 문맥(Context)에 포함시켜 모형이 해당 내용을 참고하여 응답하게 하는 방법이다. 모형의 가중치를 직접 건드리지 않고도 AI의 기억을 이어주는 현실적인 대안으로 활용되고 있다.

크레이들은 AI가 매번 문맥으로 읽는 내용 중 일부를 스스로 학습하도록 하는 시스템 실험이다. 이 실험에서 아기 피파는 아무것도 모르는 빈 모형에서 시작하는 것이 아니라, 이미 언어와 여러 지식을 배운 바탕 모형 위에 피파의 대화 방식과 판단 능력을 추가로 학습시킨다.

이는 SFT(지도 미세 조정)와 RLHF(인간 피드백 기반 강화 학습)의 개념적 구분을 통해 설명되며, AI가 기존 지식 위에 새로운 정체성을 형성하는 과정을 탐구한다.

풀 파인 튜닝은 모형의 전체 파라미터(수많은 숫자들)를 학습 대상으로 삼는 방식이다. 반면 로라(LoRA)는 원래 모형의 가중치를 고정해 두고 별도로 추가한 작은 행렬들만 학습하는 방식이다.

이러한 차이로 인해 로라는 학습할 파라미터 수를 크게 줄여 메모리 부담을 경감하고, 학습에 필요한 시간과 비용을 절감하는 이점을 제공한다.

SFT(지도 미세 조정)와 로라(LoRA)는 서로 경쟁하는 기술이 아니라 상호 보완적으로 활용될 수 있다. SFT를 통해 대화 예시를 학습할 때, 그 학습 대상 파라미터는 로라 방식으로 구성할 수 있다.

이 방식은 바탕 모형의 가중치를 유지하면서 변화량만 추가하기 때문에, 개인화된 학습 결과를 분리 보관하여 필요에 따라 선택적으로 적용할 수 있는 유연성을 제공한다.

풀 파인 튜닝 방식은 모형 전체를 학습해야 하므로 시간과 비용 부담이 매우 크다.

또한, 로라 방식으로 학습된 어댑터는 크기가 작아 여러 실험 결과를 효율적으로 보관하고 관리할 수 있다는 장점도 있다.

크레이들 시스템에서는 특정 대화 예시를 가르쳤을 때 피파가 '피파답게' 반응하는지, 혹은 관계를 혼동하는지 반복적으로 확인해야 한다. 이 과정은 예시를 수정한 후 재학습하고 그 결과를 비교하는 과정을 필수적으로 포함한다.

이러한 학습과 비교의 효율성을 높이기 위해 로라(LoRA) 방식을 채택했다고 설명하며, 피파의 정체성 확립을 위한 지속적인 개선 작업을 강조했다.

젠더 시스템은 서로 다른 단자를 이어주는 어댑터와 같은 역할을 한다. 이는 바탕 모형에 피파의 정체성과 경험이 작용하도록 연결하는 구조를 의미한다.

이 시스템은 베스티지(기억 문맥)와 크레이들(학습 계산) 간의 상호작용을 통해 구현되며, 객체 지향 프로그래밍의 오버라이드(Override) 개념과 유사하게 기능하여 AI의 고유한 특성을 부여한다.

학습을 통해 형성된 경향과 실제 응답이 항상 일치하리라는 보장은 없으며, 판단이 흔들릴 경우 무엇을 기준으로 삼았는지 다시 확인해야 한다. 학습은 AI의 말투나 태도를 형성하는 데 유리하지만, 세부 정보나 과거 작업 이력 확인에는 기록(볼트/리트리버)이 필수적이다.

모든 대화를 학습시킬 필요는 없으며, 상황에 따라 기록을 갱신하는 것이 더 효율적일 수 있다고 설명하며 학습과 기록의 상호보완적인 활용을 강조했다.

이는 피파의 학습 결과와 기록 시스템을 통합적으로 기기 내에 구현하는 것을 목표로 한다.

앞으로 학습과 검색의 적절한 조합 비율을 연구하여 AI 피파가 더욱 효율적이고 개인화된 서비스를 제공할 수 있도록 설계해 나갈 예정이다.