“병목은 사람, 이해가 병목이다”

안상현 엔지니어는 자신이 소속된 메타 AX팀에서 사람이 주 자원이라는 기존 전제가 에이전트가 주 자원이라는 전제로 바뀌었을 때 조직을 어떻게 재구성할지 질문을 던지고 있다고 밝혔다.

이는 사람의 이해력이 병목 현상을 만드는 근본 원인임을 인지하고 에이전트 중심 조직으로 재구성하기 위한 방법론을 모색하는 과정이다. AI 시대에는 이해 속도를 높이는 것이 핵심 과제로 부상한다.

실리콘밸리 엔지니어들에게는 레벨 제도가 존재하는데, 메타에서는 E3부터 E7까지 단계가 나뉜다.

E3 주니어 엔지니어는 주어진 프로젝트를 완수하고 아웃풋을 창출하는 능력이 요구되는 반면, E4 미드레벨부터는 큰 틀만 주어졌을 때 스스로 판단하고 업무를 수행하며 타인과 협업하는 역량이 중요해진다. E5 시니어 엔지니어는 사업 방향성을 제시하고 로드맵을 설정하며 리스크를 관리하는 능력을 갖춰야 한다.

최상위 레벨인 E7 시니어 스태프는 전체 엔지니어 중 상위 3~5%에 해당하는 수준으로, 상위 5% 수준의 기술 역량과 실질적인 사업 임팩트를 창출해야 한다.

신뢰 기반의 투명한 커뮤니케이션과 플랜 A, B, C를 동원한 객관적 상황 분석 역량이 승진을 결정짓는다. 불투명한 상태를 리스크로 간주하는 리더십 관점에서, 문제를 회피하지 않고 직면하는 회복 탄력성이 핵심이다.

문제를 객관적으로 분석하고 플랜 A, B, C를 세워 실행에 옮기는 능력이 중요하며, 리더십 차원에서는 불투명한 상태(Uncertainty)가 가장 큰 리스크로 간주된다. 즉, 친구가 무슨 생각을 하는지 모르는 상태가 가장 위험하다.

시니어급으로 올라설수록 본인의 실무 기술력을 넘어 동료 리더의 리스크 관리와 협업을 지원하는 역량이 요구된다. 불확실한 영역에 뛰어들어 적재적소에 인력을 배치하고 팀의 성과를 이끄는 것이 레벨업의 관건이다.

시니어 엔지니어는 동료 리더의 리스크 관리를 돕고 협업을 촉진하며, 불확실한 영역에 직접 뛰어들어 적재적소에 인력을 배치하고 팀의 성과를 이끄는 능력이 레벨업의 중요한 요소로 작용한다.

E7 시니어 스태프가 되기 위해서는 회사 내부 문제를 넘어 업계 전반에 걸쳐 소수만이 해결할 수 있는 난제를 푸는 '인더스트리 와이드 임팩트'가 필수적이다.

AI 에이전트의 도입으로 조직의 자원이 사람에서 에이전트로 이동함에 따라, 조직 구조 자체를 재설계하는 역량이 중요해졌다.

E7 엔지니어는 단순한 개인 기술력을 넘어 에이전트를 활용하여 목표를 성취하고 새로운 문제 해결 방식을 조직에 적용하는 능력을 평가받는다.

AI 에이전트는 기존 챗봇과 달리 사용자와의 대화 맥락과 과거 작업을 모두 기억하고 필요할 때 이를 활용하는 능력이 가장 큰 차이점이다.

에이전트는 사용자가 잠든 사이에도 스스로 추론하고 업무를 수행하며 보고서를 작성하는 등 자율적인 워크플로우 혁신을 가능하게 한다.

이러한 에이전트를 얼마나 효율적으로 구축하는지가 인력 채용을 대체할 수 있는 자원으로서 최신 기술의 핵심 화두로 떠오르고 있다.

기계가 업무를 완료했음에도 인간이 이를 이해하고 의사결정하는 데 시간이 걸려 전체 프로세스가 지체되는 '이해의 병목' 현상이 발생하고 있다.

이러한 에이전트를 효율적으로 구축하는 것은 인력 채용을 대체할 최신 기술의 핵심 화두다. 기존 조직이 직접 미팅하고 자료를 준비하던 관행에서 벗어나, 에이전트가 역할을 수행하는 시스템 구축 연구가 활발히 진행 중이다. 나아가 업무 자동화 효율을 극대화하는 방향으로 기술이 고도화되고 있다. 컴퓨터 앞을 지키지 않아도 목표 달성이 가능한 자동화된 환경이 조성되는 추세다.

다수의 에이전트를 운용할 때, 사용자는 에이전트의 결과물을 읽고 실수를 검증하며 판단하는 과정에서 상당한 인지적 부하(Cognitive Load)를 겪는다.

이를 해결하기 위해 동일한 검증을 반복하지 않도록 설계하는 '할스 엔지니어링(Harness Engineering)'의 중요성이 강조된다.

할스 엔지니어링은 AI가 업무를 수행할 때 탈선을 방지하고 원하는 동작을 수행하도록 고삐(Harness)를 쥐는 설계 방식이다.

AI를 단순 숙제 대행으로 활용할 경우 시험 점수 하락 등 문해력 저하 문제가 발생할 수 있다.

AI의 가장 큰 장점은 충분한 시간을 가지고 자신이 이해할 때까지 질문하는 '소크라테스식 화법'을 통해 깊이 있는 학습이 가능하다는 점이다.

결국 AI를 더 깊이 이해하고 질문할 수 있는 의지와 판단력이 향후 역량 격차를 결정할 것으로 보인다.

사람이 주 자원인 조직에서 가장 한정적인 자원은 시간이며, 이 시간의 70~80%는 이해관계 조율, 공감, 설득 과정, 즉 얼라인먼트에 소요된다.

AI는 이러한 코딩, 커뮤니케이션 요약, 의사결정 프로세스 최적화를 통해 효율성을 크게 제고할 수 있다.

에이전트 중심의 조직으로 변화하는 핵심은 조직 내 병목 현상을 파악하고 해결하는 데 있다.

조직 운영에 가장 많은 자원이 쓰이는 곳은 사람 간의 협력, 소통, 그리고 의사결정 방식이며, 이 부분이 주요 병목 현상으로 작용한다. AI 도입 시 100명 규모 조직에서 60명이 수행하는 업무와 막히는 지점을 정밀 분석하는 것이 중요하다.

리더는 정보와 맥락을 조율하는 핵심 자원이지만 한정적이며, 책임 분산과 정보 격차 해소를 위해 AI 에이전트를 도입해 의사결정 타율을 높이고 있다. 병목 현상을 풀기 위해 책임 구조를 재설계하고 AI로 정보 격차를 메우는 방안이 논의된다고 전문가들은 지적했다. 기업은 AI 에이전트를 도입해 리더의 맥락과 이해력을 공유함으로써 책임 분산과 정보 격차 문제를 해결하고 있다. 리더는 정보와 맥락을 조율하는 핵심 자원이지만, 그 역량은 한정적이다.

AI 에이전트를 통해 리더의 맥락과 이해력을 공유함으로써 의사결정의 타율을 높이고 책임 분산 및 정보 격차 해소를 도모한다.

사람의 이해력에는 한계가 있어 데이터 간의 관계를 체계화하는 온톨로지 설계가 우선시된다. AI 에이전트가 회사 지식 체계를 정확히 학습하도록 돕는 '나 아닌 나'를 훈련시키는 과정이 활용의 승부처다. 사람은 정보를 직관적으로 이해하지만, AI가 데이터를 이해하고 관계를 맺을 수 있도록 체계적으로 변환해 주어야 한다.

AI 에이전트는 '나 아닌 나'로 비유되며, 이 '나 아닌 나'를 정확히 이해시키고 훈련시키는 것이 에이전트 활용의 승부처가 된다.

이는 회사 정보와 지식 체계를 에이전트가 정확히 이해하도록 만드는 과정이며, 사람의 이해 한계를 보완하고 우선순위를 판단하는 데 중요한 역할을 한다.

완벽한 온톨로지는 존재할 수 없으며, 주관적인 요소가 개입될 수밖에 없다.

조직 내의 암묵지나 문화적 맥락을 체계적으로 정보화하는 온톨로지 설계가 필수적이며, 이는 설계가 잘 된 조직과 그렇지 않은 조직 간의 에이전트 효율성에 엄청난 차이를 가져온다.

정보의 성격에 따라 AI 에이전트의 기억 설계 방식이 달라진다. 정보를 팩트와 관찰, 의견, 에피소드 등으로 분류하고 대화 맥락을 체계화해 정보 성격을 구분하게 하는 기술이 콘텍스트 엔지니어링이다.

이 과정에서 정보는 팩트, 관찰(Observation), 의견(Opinion), 에피소드(Episodic)로 분류되어 대화 내 맥락을 체계화하고 AI가 정보의 성격을 구분하도록 돕는다.

AI 에이전트의 벤치마크 점수는 높지만, 실제 기업 현장에 적용할 때는 한계가 발생한다. 기업 고유의 프로젝트, 데이터 모델, 메커니즘을 이해하고 반복적으로 추론하는 능력이 필요하기 때문이다.

따라서 범용 인공지능(LLM)에서 이제는 조직별 컨텍스트 체계화인 '온톨로지' 설계로 전환하는 것이 핵심 과제로 부상하고 있다.

엔비디아 젠슨 황은 데이터를 지식과 토큰으로 변환하여 기업 공장의 OS를 만들어내는 모델을 제시하고 있다. 즉, '토큰 생산'을 통해 기업 OS를 구축한다는 개념이다.

그러나 중소기업은 자체 데이터 구축에 어려움이 커 국가적 지원이 필요하며, 동시에 데이터를 외부 기업에 제공해야 하는 '데이터 주권'의 맹점에 직면할 수 있다.

실리콘밸리에서는 직원들의 행동과 대화를 기록하여 온톨로지화하려는 시도가 나타나고 있으나, 이는 개인의 사적인 대화와 업무 기록 간의 윤리적 경계 문제를 야기한다.

이러한 시도는 궁극적으로 인간의 비효율적인 시스템을 디지털 효율성으로 전환하려는 과정에서 발생하는 윤리적 갈등을 수반한다.