IBM, AI 에이전트 ‘디지털 워커’ 관리

AI 에이전트의 라이프 사이클 관리(ALM)는 인사 관리와 유사하게 총 8단계로 구성됩니다. 초기 단계에서는 조직 내에서 에이전트를 도입할 아이템을 선정하고 기회를 발굴하며, 이후 가치와 위험을 평가하는 과정을 거칩니다. 그다음 에이전트가 수행할 스킬을 설계하고 프로토타입을 제작합니다.

이어 파일럿 운영 및 배포 단계를 통해 실제 환경에서 에이전트를 시험하고, 운영 학습, 개선, 승격, 그리고 폐기 단계를 포함하여 에이전트의 전반적인 생애 주기를 관리합니다.

에이전트 운영 단계에서는 지속적인 학습과 개선, 승격, 그리고 폐기 등의 개념을 종합적으로 다룹니다. 에이전트가 초기 평가만큼 잘 작동하고 있다면 그대로 유지하며, 만약 수요가 몰려 병목 현상이 발생하면 에이전트를 분할하여 처리 능력을 확장하는 결정을 내릴 수 있습니다.

반대로 활용도가 낮은 에이전트는 과감히 폐기하고, 새로운 기능 확장을 위해 스킬을 추가하는 등 유연한 관리가 필요합니다. 이 과정에서 보안 및 리스크 관리 또한 병행하여 안정적인 에이전트 운영을 보장해야 합니다.

에이전트가 업무에 투입되기 전에 가혹한 테스트를 통해 그 성능과 안전성을 철저히 검증해야 합니다. 우선 업무 결과의 정확성과 안전성이 보장되어야 하며, 잠재적인 해킹 우려나 프롬프트 조작 가능성에 대비하여 이를 사전에 점검해야 합니다. 또한, 에이전트가 생성하는 데이터 기반의 팩트가 얼마나 신뢰할 수 있는지를 확인하는 과정도 필수적입니다.

이와 함께 토큰 비용의 효율성을 분석하고, 사용자가 에이전트를 얼마나 편리하게 사용할 수 있는지까지 다각적으로 평가하여 전사 배포 전 모든 리스크 요소를 최소화해야 합니다.

에이전트를 회사 전반에 걸쳐 배포하거나 대고객 서비스로 오픈하기 전에는 더욱 까다로운 절차를 거쳐야 합니다. 이 과정에서 에이전트의 품질, 데이터 보호 수준, 해킹 보안 취약점, 준법 여부, 그리고 윤리적 측면까지 종합적으로 검토하는 체크리스트를 활용해야 합니다.

에이전트의 변경 관리 및 릴리즈 관리는 전담 조직에서 수행하는 것이 효율적입니다. 이 조직은 사용자들의 개선 의견을 수집하고 반영하여 에이전트의 성능을 지속적으로 향상시키며, 운영 비용을 최적화하고 관리하는 역할도 담당합니다.

또한, 중복 에이전트를 통폐합하고 잠재적인 위험 요인에 대한 명확한 가이드라인을 제공해야 합니다. 특히, 폐기해야 할 에이전트에 대한 기준을 수립하고 폐기 절차를 진행하는 것 역시 전담 조직의 중요한 업무입니다.

MCP(Managed Connectivity Point) 기술은 에이전트를 실제 회사의 레거시 시스템과 연동시키는 핵심적인 도구입니다. 그러나 MCP 서버와 연결되는 범위가 넓어질수록 시스템의 리스크는 비례하여 증가할 수밖에 없습니다.

따라서 전담 조직에서는 MCP 연결의 리스크 수준을 그린(낮음), 옐로우(보통), 오렌지(주의), 레드(높음)의 네 가지 계층으로 구분하여 체계적으로 관리해야 합니다.

MCP는 기업에 매우 유용한 도구이지만, 제대로 관리되지 않으면 문제가 발생할 수 있습니다. 따라서 MCP에 대한 명확한 관리 정책을 수립하고, 이를 레드, 오렌지, 블루와 같은 등급으로 분류하여 차등 관리해야 합니다. 또한, 중앙 카탈로그를 통해 모든 MCP를 통합 관리하고 지속적으로 업데이트하는 것이 중요합니다.

기업은 물리적 장치보다는 소프트웨어 형태의 킬 스위치를 도입하여 비상 상황 시 모든 MCP 연결을 즉시 차단할 수 있는 안전 장치를 마련하는 것이 권장됩니다.

예를 들어, SAP의 ERP 시스템과 MCP가 연동되어 있는데 이 ERP 시스템이 해킹을 당하는 비상 상황이 발생할 경우, 기업은 즉시 킬 스위치를 작동하여 모든 MCP 연결을 끊어야 합니다. 이는 시스템의 추가적인 피해를 막고 안전하게 복구할 수 있을 때까지 모든 연결을 차단하는 필수적인 안전장치입니다.

과거에는 개인이 업무를 처리하고 성과를 창출하는 방식이었다면, 앞으로는 사람과 에이전트가 협력하여 업무를 처리하는 형태로 변화할 것입니다. 이에 따라 성과 지표 또한 단순히 업무 처리량 중심에서 작업 감소율이나 재작업률 감소와 같은 효율성 중심으로 바뀌게 됩니다.

이러한 변화 속에서 문제 정의, 정확한 판단, 그리고 결과 검증 능력은 인간 직원의 핵심 역량으로 더욱 중요하게 부상할 것입니다.

미래의 핵심 성과 지표(KPI)는 개인이 얼마나 많은 노하우를 축적했는가보다, 자신이 만든 스킬을 얼마나 다양한 에이전트에게 학습의 인풋으로 제공하고 공유했는가에 초점을 맞출 것입니다. 이는 스킬 공유 및 활용도를 중요한 가치로 평가하는 새로운 기준이 될 것입니다.

새로운 KPI는 아웃컴(결과), 퀄리티(품질), 리스크(위험), 레버리지(활용), 러닝(학습), 저지먼트(판단) 등 여섯 가지 유형으로 분류되어 에이전트와 인간의 협업 성과를 다각적으로 측정할 것입니다.

과거의 관리자가 태스크 오너(Task Owner)나 태스크 퍼포머(Task Performer)로서 단순히 업무를 지시하고 수행했다면, 앞으로는 워크 오케스트레이터(Work Orchestrator)로서 역할이 재정의됩니다. 이는 관리자가 여러 에이전트와 스킬을 활용하여 보다 창의적이거나 고가치의 업무를 수행하는 방향으로 변화함을 의미합니다.

새로운 역할의 관리자는 시스템 내 예외 상황에 효과적으로 대응하고, 인간과 AI가 최적으로 협력할 수 있는 시스템을 설계하는 데 집중하게 될 것입니다.

AI 에이전트 도입을 위한 조직 로드맵의 첫 단계는 '에이전틱 워크(Agentic Work)' 개념을 정확히 이해하는 것입니다. 에이전트는 단순히 인간을 보조하는 도구가 아니라, 특정 조건 하에서 독립적으로 작업을 수행하는 기술 또는 기계로 인식해야 합니다.

이후 HR 조직이 주도하여 에이전트 포트폴리오를 설계하고, 최종적으로 플랫폼 선정 및 기술적 구현 단계로 이어지는 전략적인 접근이 필요합니다.

AI 에이전트 구축의 네 번째 단계는 에이전트 아키텍처를 결정하는 것입니다. 이 단계가 완료되면 대부분의 임직원들은 스킬 엔지니어링 작업으로 전환하여 에이전트의 페르소나를 설정하게 됩니다.

이와 함께 MCP(Managed Connectivity Point) 연동 및 에이전트 OPS(Operations)와 같은 운영 체계를 구축하여 에이전트가 효율적으로 작동할 수 있는 환경을 마련해야 합니다.

AI 에이전트 도입에 걸리는 기간은 회사마다 다르며, 조직의 기술적 성숙도에 따라 도입 전략을 다르게 가져가야 합니다. 만약 이미 회사 내에 바이브 코딩(Live Coding) 환경이 구축되어 3~4단계 수준에 해당한다면, 더 이상 프롬프트 엔지니어링이나 새로운 AI 툴 학습에 집중하기보다는 바로 5단계로 넘어가는 것을 추천합니다.

즉, 본인의 업무를 스킬로 만들고 그 스킬을 에이전트에 탑재하여 활용하는 단계로 빠르게 전환하는 것이 효과적입니다.

IBM은 AI 에이전트를 '디지털 워커'라고 부르며, 실제 인간 직원과 동일한 방식으로 관리하고 있습니다. 디지털 워커는 사번과 이메일 계정을 부여받으며, IBM CEO는 2024년에 인사 조직이 인간 워커를 관리하듯이 디지털 워커도 같은 방식으로 관리해야 한다고 강조했습니다.

IBM은 디지털 워커에 대해 채용 및 온보딩, 자격 검증, 배치 및 운영, 은퇴라는 4단계의 라이프 사이클 관리 체계를 수립하여 적용하고 있습니다.

IBM은 디지털 워커의 역량을 공식적으로 인정하기 위해 피어슨 크레들리(Pearson Credly)라는 회사와 협력하여 AI 에이전트에게 자격증을 발급하는 정책을 시행하고 있습니다. 이는 단순히 에이전트가 특정 스킬을 가지고 있다는 것을 넘어, 해당 스킬에 대해 공식적으로 자격을 갖췄음을 증명하는 것입니다.

이러한 디지털 배지를 통해 에이전트의 스킬 수준과 자격 상태가 소셜 환경에 공표될 수 있도록 하여 신뢰도를 높이고 있습니다.

IBM의 SVP는 사용하지 않는 에이전트는 '굶겨서 내보낸다'는 표현을 사용하여 효율적인 자원 관리의 중요성을 강조했습니다. 여기서 '굶긴다'는 것은 에이전트의 활용도가 낮으면 가장 먼저 토큰 공급을 중단하겠다는 의미입니다. 토큰은 에이전트가 작업을 수행하는 데 필요한 비용이므로, 이를 차단하면 에이전트는 더 이상 활동할 수 없게 됩니다.

이러한 과정은 자격증 회수, 서비스 계정 제거, 로그 백업 후 폐기 순서로 진행되어 불필요한 자원 낭비를 막고 에이전트 생태계의 효율성을 극대화합니다.

AI 에이전트의 거버넌스와 조직 구조는 HR 조직과 IT 조직이 협력하여 관리하는 경우가 가장 일반적입니다. 이는 기존의 인사 관리 체계를 에이전트 관리 체계로 준용하고 변형하여 적용했을 때 훨씬 더 효율적이고 빠르게 구현할 수 있다는 공통된 경험에서 비롯됩니다.

HR은 에이전트의 '인사'와 관련된 정책 및 라이프 사이클 관리를 담당하고, IT는 기술적 구현 및 운영 인프라를 지원함으로써 통합적이고 체계적인 에이전트 관리 시스템을 구축할 수 있습니다.