AI 시스템 개발의 새로운 패러다임: 그래프 엔지니어링

AI 기술의 발전은 엔지니어링 패러다임의 변화를 이끌었습니다. 태초에는 모델에게 좋은 답을 얻기 위한 '프롬프트 엔지니어링'이 중요했고, 이어서 모델에게 정보와 도구를 제공하는 '컨텍스트 엔지니어링'이 등장했습니다. AI 에이전트 시대에는 AI가 계획하고 실행하며 결과를 수정하는 반복 구조인 '루프 엔지니어링'에 집중하게 되었습니다. 그러나 이제는 하나의 AI를 똑똑하게 만드는 것만으로는 부족하며, AI들의 작동 순서, 동시 처리, 실패 시 복귀 지점, 코드와 인간의 개입 시점 등 전체적인 흐름을 하나의 구조로 설계하는 것이 중요해졌습니다.

프롬프트 엔지니어링에서 컨텍스트 엔지니어링으로, 컨텍스트 엔지니어링에서 루프 엔지니어링으로, 그리고 루프 엔지니어링을 넘어서 그래프 엔지니어링으로 진화하며 AI 시스템 설계의 복잡도가 증가하고 있습니다. 이는 AI의 작동 방식을 보다 체계적이고 구조적으로 접근하는 최신 트렌드입니다.

많은 사람들이 루프 엔지니어링과 그래프 엔지니어링의 차이에 대해 혼란스러워합니다. 소프트웨어 개발 관점에서 보면, 루프는 반복적으로 실행되는 시스템을 의미하는 반면, 그래프는 노드와 엣지로 연결된 시스템을 의미합니다. 이 차이는 AI가 작업을 수행하는 방식의 근본적인 차이를 나타냅니다. 루프는 단일 작업의 반복에 중점을 두지만, 그래프는 여러 작업을 상호 연결하고 제어하는 데 중점을 둡니다.

그래프 엔지니어링은 하나의 AI에게 모든 일을 맡기기보다 작업을 여러 개의 '노드'로 나누고 그 노드들 사이에 '이동 규칙(엣지)'을 설계하는 방식입니다. 여기서 노드는 개별 작업을, 엣지는 다음 작업으로 이동하는 경로를 의미합니다. '스테이트'는 작업들 사이에서 전달되는 정보를 나타내며, '컨디션'은 어느 경로로 이동할지 결정하는 규칙을 정의합니다. 이러한 구성 요소들을 통해 복잡한 AI 워크플로우를 체계적으로 설계할 수 있습니다.

다이나믹 워크플로우는 계획 수립, 병렬 리서치 및 작업, 취합 후 검증 등의 형태로 진행되며, 이는 노드와 엣지로 연결되고 스테이트를 서로 전달하는 그래프 형태와 본질적으로 같습니다. 따라서 대부분의 사람들은 이미 알게 모르게 그래프 엔지니어링 개념을 사용하고 있었던 셈입니다. 이러한 익숙함은 그래프 엔지니어링이 새로운 개념이라기보다는 기존의 효율적인 작업 방식을 AI 시스템에 적용한 확장된 개념임을 시사합니다.

단일 에이전트 방식은 AI에게 모든 작업을 맡길 때 발생하는 명확한 한계점을 가지고 있습니다. 예를 들어, 시장 조사, 경쟁사 분석, 보고서 작성, 정보 검증 등 여러 단계의 작업을 하나의 모델에 요청하면, 모든 책임이 해당 모델에 집중됩니다. 이 방식의 가장 큰 문제는 최종 결과가 잘못되었을 때, AI가 계획을 잘못 세웠는지, 검색을 잘못했는지, 정보를 오해했는지, 검증을 건너뛰었는지 등을 파악하기 어렵다는 점입니다. 전체 작업이 하나의 거대한 블랙박스처럼 작동하여 문제의 원인을 특정하기 어렵다는 한계가 있습니다.

그래프 엔지니어링은 단일 AI에게 모든 판단을 맡기는 대신, 작업을 여러 노드로 나누고 그 사이의 이동 규칙을 설계합니다. 단일 에이전트가 계획, 검색, 검증, 종료 여부까지 모두 판단하는 것과 달리, 그래프 엔지니어링에서는 AI가 검색어 생성, 문서 요약, 결과 작성과 같은 시스템적인 판단을 수행합니다. 반면, 조건적인 최대 제시도 횟수, 필수 출처 존재 여부, 지출 한도, 사람의 승인 필요 여부와 같은 반드시 지켜야 할 규칙은 코드가 담당하도록 설계할 수 있습니다. 즉, 애매한 판단은 AI에 맡기고 명확한 규칙은 코드로 구현하여 AI와 코드의 협력을 통해 시스템의 신뢰성과 제어 가능성을 높이는 방식입니다.

그래프 엔지니어링은 노드와 엣지로 이루어져 다양한 패턴을 가집니다. 대표적인 네 가지 패턴은 다음과 같습니다. 첫째, '라우터 패턴'은 조건에 따라 적합한 에이전트에게 작업을 전달합니다. 둘째, '병렬 실행'은 여러 작업을 동시에 수행하여 처리 시간을 단축시킵니다. 셋째, '생성자-평가자 패턴'은 작업 에이전트가 일을 수행하면 평가 에이전트가 이를 확인하고 수정하는 방식으로, 일종의 루프를 형성합니다. 넷째, '사용자 승인 패턴'은 그래프 엔지니어링에서 중요한 요소로, 사람이 작업할 영역과 AI가 능동적으로 처리할 영역을 효율적으로 나누는 지점입니다. 이 패턴들은 AI와 인간의 협업을 최적화하는 데 기여합니다.

앞서 소개된 네 가지 그래프 엔지니어링 패턴들은 반드시 하나만 사용해야 하는 것이 아닙니다. 필요에 따라 여러 패턴을 조합하여 사용할 수 있으며, 이를 통해 더욱 복잡하고 유연한 AI 시스템을 설계할 수 있습니다. 다양한 패턴의 조합은 AI 시스템의 확장성과 문제 해결 능력을 향상시키는 데 기여합니다.

'한국 AI 자동화 SaaS 시장 규모 조사, 경쟁자 정리, 고객 페인포인트 파악, 제품 제안'과 같은 복합적인 요청을 하나의 에이전트에게 맡기면, 겉으로는 그럴듯한 결과를 내놓는 것처럼 보입니다. 그러나 문제는 AI 내부에서 어떤 일이 일어났는지 정확히 통제하거나 파악하기 어렵다는 점입니다. 시장 조사가 충분했는지, 경쟁사를 몇 개나 조사했는지, 고객 조사를 제대로 했는지, 틀린 정보를 건너뛰었는지 등 모든 판단이 모델 내부에서 이루어지기 때문에, 전체 작업이 하나의 거대한 블랙박스처럼 작동하게 됩니다. 이는 작업의 투명성과 제어 가능성을 심각하게 저해합니다.

그래프 엔지니어링을 적용하면 작업 구조가 완전히 달라집니다. 먼저 사용자 요청을 분석하는 노드를 거친 후, 작업을 여러 하위 작업으로 나눌 계획을 세웁니다. 여기서 그래프의 큰 장점이 발휘되는데, 시장 조사, 경쟁사 조사, 고객 페인포인트 조사를 각각 별도의 노드로 나누어 동시에 실행할 수 있습니다. 이는 단순히 작업 속도를 빠르게 할 뿐만 아니라, 각 노드가 정확히 어떤 일을 해야 하는지 명확하게 정의되고 그 결과를 독립적으로 확인할 수 있게 합니다. 따라서 작업의 투명성과 제어 가능성이 크게 향상됩니다.

그래프 엔지니어링은 각 노드에 명확한 책임을 부여할 수 있습니다. 예를 들어, '경쟁사 조사' 노드에는 '최소 10개의 경쟁사를 조사할 것'이라는 규칙을, '시장 조사' 노드에는 '시장 규모 수치에 반드시 출처를 포함할 것'이라는 규칙을 설정할 수 있습니다. 또한 '고객 조사' 노드에는 '최소 20개의 실제 사용자 의견을 수집할 것'과 같은 책임을 부여할 수 있습니다. 이처럼 각 노드에 구체적인 조건을 명시함으로써 AI의 작업을 보다 정교하게 제어하고, 작업 완료 후에는 '스테이트'를 통해 결과를 다음 단계로 원활하게 전달할 수 있습니다.

그래프 엔지니어링에서는 최종 보고서 작성 전에 '검증 노드'를 두어 모든 정보를 취합하고 확인하는 단계를 거칩니다. 이 검증 노드는 출처의 충분성, 경쟁사 수의 조건 충족 여부, 시장 규모 수치 간의 충돌 여부, 고객 페인포인트의 실제 데이터 기반 여부 등을 확인합니다. 만약 모든 조건을 만족하면 다음 단계로 진행하지만, 조건을 만족하지 못할 경우 해당 노드로 다시 돌아가 작업을 재시도하게 합니다. 예를 들어, 경쟁사 수가 부족하면 경쟁사 조사 노드로, 시장 규모 출처가 부족하면 시장 조사 노드로 돌아가는 식입니다. 이는 AI가 '감으로' 판단하여 재조사하는 것이 아니라, 그래프 자체에 명확한 재시도 조건과 이동 경로가 정의되어 있음을 의미하며, 프롬프트 엔지니어링의 핵심 원리와도 일맥상통합니다.

또한 몇 개의 노드와 엣지를 독립적인 루프로 운영하는 것도 가능합니다. 이는 그래프 엔지니어링이 단순히 반복적인 작업뿐만 아니라, 더 복잡한 조건 분기 및 연결된 시스템 내에서 반복적인 과정을 효율적으로 관리하고 통합할 수 있는 능력을 제공함을 의미합니다.

단일 에이전트가 유능한 직원 한 명에게 모든 업무를 맡기는 것이라면, 그래프 엔지니어링은 회사 전체를 설계하는 것에 비유할 수 있습니다. 누가 시장 조사를 담당하고, 누가 경쟁사를 분석하며, 누가 결과를 검증할지, 특정 상황에서 재작업을 지시하고, 어떤 결정은 최고 책임자가 직접 승인할지 등을 미리 구조화해 놓는 것이 그래프 엔지니어링의 핵심입니다. 이 비유는 복잡한 AI 시스템을 설계하는 목적과 역할을 명확하게 보여줍니다.

즉, AI의 개별 능력 향상보다는 AI가 주어진 작업을 체계적이고 오류 없이 수행하도록 전체적인 프로세스와 상호작용을 제어하는 데 중점을 둡니다. 이는 복잡한 실제 업무 환경에서 AI 시스템의 안정성과 신뢰성을 확보하는 데 필수적인 접근 방식입니다.

모든 AI 앱에 그래프 엔지니어링이 필요한 것은 아닙니다. 간단한 요약, 질문 답변, 한두 번의 툴 사용으로 끝나는 작업에는 굳이 그래프를 사용할 필요가 없습니다. 이는 오버 엔지니어링으로 이어져 오히려 구조가 복잡해지고 디버깅 지점이 늘어나며, 더 많은 에이전트 사용으로 비용이 증가할 수 있기 때문입니다. 그래프 엔지니어링은 작업 자체가 복잡할 때, 여러 개의 단계와 조건 분기가 필요할 때, 병렬 처리가 요구될 때, 실패 시 다시 돌아가야 할 때, 중간에 사람의 개입이 필요할 때, 그리고 결과를 검증하고 모든 것을 거버넌스를 통해 통제해야 할 때 그 진가를 발휘합니다. 이러한 복잡한 시나리오에서는 단일 에이전트나 루프만으로는 관리가 어려워지므로 그래프 엔지니어링이 강력한 해결책이 됩니다.

이러한 패턴은 개발자들에게 항상 공존해왔던 개념들이며, AI의 능력치가 향상됨에 따라 우리가 설계할 수 있는 복잡도가 더욱 섬세해지는 경향을 보입니다. 프롬프트 엔지니어링은 AI가 '무슨 말을 듣는지'를, 컨텍스트 엔지니어링은 AI가 '무엇을 알고 있는지'를, 루프 엔지니어링은 AI가 '어떻게 반복해서 행동했는지'를 설계했습니다. 그리고 현재의 그래프 엔지니어링은 여러 AI가 '어떤 구조 안에서 함께 움직일 수 있는지'를 설계하며, 이는 이전 방식들의 상위 호환 개념으로 볼 수 있습니다.

앞으로 AI 에이전트가 더 복잡한 실제 업무를 담당하게 될수록, 개별 에이전트의 성능보다는 이 '그래프'를 얼마나 잘 설계했는지가 훨씬 더 중요해질 것입니다. 모델 자체는 계속해서 발전하고, 프롬프트 생성이나 컨텍스트 관리, 루프 작동 등은 AI가 알아서 잘 처리해 줄 가능성이 높습니다. 그러나 어떤 작업을 나눌지, 어디서 병렬로 실행할지, 어디서 검증할지, 실패 시 어디로 돌아갈지, 그리고 어디서 인간에게 결정권을 넘길지와 같은 '구조'를 설계하는 능력은 여전히 중요하며, 이는 AI 시스템의 품질을 결정하는 핵심 요소가 될 것입니다. 이러한 구조 설계 또한 메타 프롬프팅이나 다이내믹 워크플로우처럼 AI와 함께 설계하는 방식도 충분히 가능합니다.

이러한 변화는 AI 기술이 너무나도 빠르게 발전하고 있기 때문에 가능합니다. 그리고 이처럼 AI가 좋은 방식으로 효율적이고 신뢰성 있게 일하도록 설계하는 방법이 바로 '그래프 엔지니어링'입니다. 이는 AI 시스템의 미래를 결정하는 핵심적인 기술이 될 것입니다.