AI의 ROI: 기업 가치를 위한 실용적인 프레임워크

컨퍼런스를 시작하며 Section의 CEO인 Greg Shove는 조직이 경영진의 응원이나 정적인 법적 정책에 의존하여 AI 도입을 추진할 수 없다고 주장했습니다. 대신 리더십 팀은 AI 사용에 대한 기대치, 토큰 예산 및 문화적 규범을 정의하는 운영 AI 선언문을 작성해야 합니다. 그는 광범위한 도구에도 불구하고 현재 기업 인력의 약 10%만이 AI에 적합하며, 이는 대부분의 지식 근로자가 고급 모델에서 의미 있는 경제적 가치를 추출할 기술이 부족하다는 것을 강조했습니다.

기업 간접비를 부풀리지 않고 혁신에 자금을 조달하기 위해 Shove는 12개월 동안 표준 인력 충원의 4분의 1을 보류할 것을 제안했습니다. 연간 이직률이 12%인 1,000명 규모의 회사에서 약 30개 직책에 대한 충원을 중단하면 추론 크레딧, 에이전트 개발 및 변경 관리 역량 강화에 약 300만 달러가 재할당됩니다.

Shove는 기존 기업 에이전트의 대다수가 이미 재정적으로 파산 상태라고 경고했습니다. 그 이유는 이들이 모니터링되지 않거나 무시되는 출력을 생성하면서 백그라운드 추론을 소비하기 때문입니다. 대규모 언어 모델로 직원을 증강하면 생산성이 5~15% 향상되는 것으로 추정되지만, 이 개별적인 향상을 직접 측정하는 것은 어렵습니다. 이는 경영진이 즉시 기존 에이전트를 감사하여 비수행 자동화를 종료해야 함을 의미합니다.

John Hancock CIO Karthic Sakthivel은 모회사인 Manulife가 2027년 말까지 인공지능을 통해 10억 캐나다 달러의 사업 가치를 실현하겠다는 공개적인 약속에 대해 논의했습니다. Sakthivel은 AI 투자는 기술적 매혹보다는 명확하게 정의된 비즈니스 문제에서 엄격하게 시작되어야 하며, AI를 피크닉을 찾는 샌드위치처럼 취급하는 것에 대해 경고했습니다.

구체적인 사례 연구로 Sakthivel은 보험 인수 지원을 위해 설계된 내부 생성형 AI 도구인 Quick Quote의 배포를 설명했습니다. 역사적으로 예비적이고 구속력 없는 생명 보험 자격 평가를 제공하는 데는 인적 인수자가 최소 24시간이 걸렸습니다. Quick Quote는 초기 분석을 15분으로 단축하여 매월 수천 건의 요청을 처리하고 숙련된 인수자가 복잡하고 고마진의 위험 평가에 집중할 수 있도록 했습니다.

측정 한계에 대해 Sakthivel은 직원들이 더 많은 업무량을 피하기 위해 절약 시간을 종종 축소하기 때문에 자기 보고된 시간 절약이 신뢰할 수 없는 측정 지표임을 인정했습니다. 또한 그는 조직 전체에서 평가된 100가지 파일럿 사용 사례 중 99가지가 즉각적인 가치를 창출하지 못할 수 있으므로 리더는 6개월 이내에 수익을 시연할 수 있는 골디락스 사용 사례를 분리해야 한다고 언급했습니다.

Section 설립자 Scott Galloway는 최첨단 연구소 설립자들이 실존적 멸종 위험을 경고하면서 동시에 수십억 달러 규모의 기업 공개를 제안하는 기업 경영진이 직면한 인지 부조화에 대해 언급했습니다. Galloway는 FAA, FDA, EPA가 시행하는 기준과 유사한 명확한 규제 가이드라인이 혁신을 저해하는 요소가 아니라 산업이 안전하게 확장될 수 있도록 하는 자본주의의 필수적인 특징이라고 주장했습니다.

Galloway는 글로벌 AI 시장의 구조적 분기를 관찰하며 미국 최첨단 연구소를 고마진 독일 고급 자동차 제조업체에, 개방형 가중치 모델을 효율적이고 대량 생산하는 아시아 제조업체에 비유했습니다. 그는 중국이 소비자 피해를 방지하기 위해 국내 AI 애플리케이션을 엄격하게 규제하고 있으며, 이는 미국 시민의 25%만이 AI에 대해 낙관적으로 느끼는 것과 비교하여 중국 시민의 75%가 AI에 대해 낙관적으로 느끼는 것과 관련이 있으며, 이는 개방형 가중치 모델이 기업 시장 점유율을 지배할 기회를 창출한다고 언급했습니다.

Fortune 500대 기업 리더들에게 Galloway는 실존적 기술 위협을 관리하는 것이 경영진의 수탁 의무 범위를 훨씬 벗어난다는 반론을 제시했습니다. 기업 리더는 국가 정책에 대한 과장된 태도를 피하고 오히려 평범한 운영 실행에 집중해야 합니다. 즉, 현장 라이선스를 배포하고, 키보드에서 개인적인 모범을 보이고, 직장 내 마찰을 제거하며, AI를 적용하여 비즈니스 목표를 가속화하는 직원들에게 보상해야 합니다.

Elsevier CTO Jill Luber는 과학 출판사가 생성형 AI를 핵심 학술 플랫폼에 통합하여 2026년 상반기에 수익을 6% 증대시킨 방법을 자세히 설명했습니다. 2천만 개 이상의 전문 연구 논문을 보유한 Elsevier는 연구자들이 논문에서 과학적 주장을 강조하고 전 세계 문헌에서 지지하거나 반박하거나 관련 있는 연구 결과를 즉시 식별할 수 있는 Claims Radar와 같은 도구를 설계했습니다.

광범위한 과학 텍스트 코퍼스에서 원시 대규모 언어 모델을 실행하는 것과 관련된 막대한 토큰 비용 및 지연 시간을 우회하기 위해 Elsevier는 10년간의 이전 기계 학습 투자를 활용했습니다. 이 회사는 도메인 지식 그래프, 분류법 및 온톨로지를 미리 계산하여 내부적으로 계산 토큰 비용을 한 번 흡수함으로써 최종 사용자 쿼리가 구조화된 관계에 대해 빠르게 실행되도록 합니다.

내부적으로 Luber는 모델을 사용하여 레거시 코드베이스를 현대화하는 것을 설명했습니다. 코드 복잡성으로 인해 인간의 개입이 어려웠던 복잡한 화학 데이터베이스 SQL 쿼리가 역사적으로 실행에 32초가 걸렸다고 언급했습니다. LLM과 페어링된 엔지니어링 하네스는 이 쿼리를 이틀 만에 재설계하여 실행 지연 시간을 4초로 단축했습니다. 그러나 Luber는 인간의 동료 검토 및 편집 판단이 여전히 필수적이며, AI를 자율적인 의사 결정자가 아닌 전력 도구로 엄격하게 포지셔닝한다고 강조했습니다.

SS&C Technologies의 글로벌 CTO 겸 CIO인 Anthony Kayapa는 풀 리퀘스트(PR) 또는 클로즈드 지원 티켓을 엔지니어링 생산성 측정 지표로 사용하는 것에 대해 경고했습니다. 그는 코딩 모델을 사용하는 개발자들이 수백 개의 한 줄 변경, 공백 조정 또는 외관상의 주석 편집을 자주 생성하여 경제적 가치는 제로이면서 볼륨 지표를 인위적으로 부풀린다고 지적했습니다.

거의 9,000명에 달하는 엔지니어링 인력 전반의 비용을 관리하고 상호 작용을 통제하기 위해 SS&C는 독점적인 Gateway HQ 유틸리티를 구축했습니다. 이 플랫폼은 프롬프트, 토큰 소비 및 코드 커밋을 추적하며, 확인되지 않은 코드 제출을 차단하고 직원들이 사소한 작업에 값비싼 최첨단 모델을 사용하는 것을 방지하는 자동화된 가이드레일을 시행합니다. 요청은 먼저 로컬 온프레미스 모델로 동적으로 라우팅되며, 더 깊은 추론이 필요한 경우에만 상업용 기반 모델로 에스컬레이션됩니다.

Kayapa는 AI 지원 소프트웨어 가속화의 한계를 설명하며, 최신 웹 프레임워크 및 보고 도구는 생산성 30~40% 증가 및 결함 감소를 달성할 수 있지만, COBOL 메인프레임과 같은 복잡한 레거시 아키텍처는 10~15%의 완만한 증가를 보인다고 설명했습니다. 또한 SS&C는 개발자당 엄격한 월별 토큰 예산을 부과하여 엔지니어들이 고객이 후원하는 수익 이정표에 대해 예산 초과를 정당화하도록 요구합니다.

Section의 AI 책임자 Michael Dominic은 개인, 기능 및 전사적 계층에 걸친 자율 에이전트 배포를 관리하기 위한 경영 프레임워크를 제시했습니다. 그는 AI 전환을 수용하려는 모든 결정이 본질적으로 조직의 운영 위험 노출 영역을 확장하며, 최고 경영자가 행동하지 않는 전략적 위험이 구현의 전술적 위험보다 큰지 결정해야 한다고 주장했습니다.

에이전트 배포를 안전하게 평가하기 위해 Dominic은 운영 가역성과 폭발 반경의 균형을 맞추는 프레임워크를 도입했습니다. 내부 초안 작성이나 개인 연구와 같이 폭발 반경이 낮고 가역성이 높은 워크플로는 최소한의 감독으로 민주화되어야 합니다. 반대로 자동화된 거래 처리나 외부 클라이언트 통신과 같이 폭발 반경이 높고 가역성이 낮은 워크플로는 인간 개입 검증이 필수적입니다.

Dominic은 엄격한 유지 관리 위생을 설명했습니다. 모든 에이전트는 백그라운드에서 조용히 컴퓨팅 예산을 소모하는 유령 에이전트를 방지하기 위해 자동 30일 만료일과 함께 시작해야 합니다. 팀은 런타임 오류에 대해 매주, 출력 품질에 대해 매월, 실제 비즈니스 가치에 대해 분기별로 에이전트를 검사해야 합니다. 지출 측면에서 Section은 추론을 위해 직원 50명당 두 명의 풀타임 직원에 해당하는 예산을 책정할 것을 권장하며, Section의 경우 연간 약 25만~30만 달러에 달합니다.

TD Bank의 분석, 인텔리전스 및 AI 담당 SVP인 Ted Paris는 수익 가속화와 비용 절감으로 나뉜 CEO가 지시한 연간 10억 달러 가치 창출 목표 달성을 위한 금융 기관의 진행 상황에 대해 논의했습니다. 보수적이고 고도로 규제된 은행 환경에서 운영되는 TD는 생산 빌드를 승인하기 전에 모델 위험, 데이터 개인 정보 보호 및 사이버 보안을 다루는 중앙 집중식 표준을 수립했습니다.

Paris는 분산된 포인트 솔루션보다는 확장 가능한 엔터프라이즈 레일을 식별하는 TD의 전략을 설명했습니다. TD는 처음에 고객 컨택 센터 내에 자연어 지식 관리 플랫폼을 배포하여 서비스 담당자가 통화 대기 없이 고객 문의를 즉시 해결할 수 있도록 했습니다. 검증된 후, 동일한 기술 및 운영 레일이 소매점 네트워크 및 상업 관계 관리 팀으로 확장되었습니다.

책임성을 보장하기 위해 TD는 모든 주요 이니셔티브에 대해 비즈니스 리드, AI 주제 전문가 및 기술 CIO 리드의 세 가지 인 박스 거버넌스 구조를 의무화합니다. Paris는 비즈니스 리드가 궁극적인 책임성을 유지하며, 예상되는 AI 절감액 또는 수익을 부서 재정 계획에 직접 통합해야 한다고 강조했습니다. 그는 조직이 민첩한 AI 기반 경쟁사에 대응하기 위해 전반적인 결과를 재설계하면서 후회 없는 기회를 목표로 삼을 것을 권고했습니다.

Runway COO Michelle Quan은 250명의 크리에이티브 AI 회사가 2026년에 마케팅 지출과 디지털 발자국을 100배 확장한 방법을 공유했습니다. 단편화된 국제 시장 전반에 걸쳐 필요한 광고 볼륨을 전통적인 크리에이티브 파이프라인이 지원할 수 없음을 인식하고, Runway는 단 일주일 만에 내부 광고 에이전트를 구축하여 단편 자산 생성 및 현지화를 자동화했습니다.

Runway는 고위 크리에이티브 스튜디오에 반복적인 프로덕션 부담을 주지 않고, 에이전트 플랫폼에 능숙한 민첩한 광고 타이거 팀을 구성했습니다. 이 팀은 한국, 브라질, 베트남, 멕시코를 포함한 다양한 지역에 걸쳐 매주 최대 1,500개의 타겟팅된 10~15초 분량의 현지화된 광고 변형을 제작했으며, 성과 데이터를 매일 여러 번 분석하여 배치 및 고객 확보 비용을 최적화했습니다.

AI 슬롭(AI slop)이라고도 불리는 저품질 자동화 콘텐츠의 위험에 대해 Quan은 빠른 제작이 창의적 기준을 낮춰서는 안 된다고 강조했습니다. Runway는 승인된 브랜드 키트, 색상 팔레트, 로고 및 캐릭터 일관성 매개변수를 도구 하네스에 직접 사전 삽입합니다. 그녀는 대량 생성이 명확한 스토리텔링과 청중 관련성에 기반을 두어야 하며, 볼륨을 위한 볼륨 생성이 기업 자원 낭비라고 경고했습니다.

Booz Allen Hamilton의 AI 책임자 Eric Safard는 약 250개의 활성 기업 AI 이니셔티브에 걸쳐 토크노믹스를 관리하기 위한 전략을 설명했습니다. Safard는 토큰 활용을 단순히 비용 부담으로 보는 대신, 숙련된 고위 엔지니어들 사이에서 증가하는 토큰 소비가 5~8배의 생산성 향상과 자주 상관관계가 있는 반면, 주니어 직원은 종종 더 가파른 학습 곡선에 어려움을 겪는다고 지적했습니다.

Safard는 기업 모델 배포를 위한 10-20-70 아키텍처 분포를 제안했습니다. 약 10%의 사용 사례(주로 사이버 보안 취약성 해결과 같은 중요한 애플리케이션)는 프리미엄 가격 책정 능력을 가진 최첨단 모델을 필요로 합니다. 또 다른 20%는 편의성과 일반화된 추론을 위해 중급 상업 모델에 의존합니다. 나머지 70%의 기업 워크로드는 기업 데이터에 미세 조정되고 프라이빗 클라우드 또는 주권 온프레미스 환경에 배포된 개방형 가중치 모델(예: Nvidia Nemotron)로 가장 잘 처리됩니다.

Booz Allen은 역개발 수명 주기를 권장합니다. 팀은 개방형 가중치 모델을 미세 조정하는 데 필요한 엔지니어링을 수행하기 전에 폐쇄형 상업용 API를 사용하여 사용 사례를 빠르게 검증하여 투자 수익을 확립해야 합니다. Safard는 지나치게 복잡한 문제를 찾는 것에 대해 경고하며, 자동화된 규정 준수 추적 및 시간 카드 확인과 같이 가장 강력한 즉각적인 수익을 안정적으로 생성하는 간단하고 빈번한 작업을 목표로 삼을 것을 기업에 조언했습니다.

그녀는 AI가 다양한 비즈니스 기능에 영향을 미치므로 모든 이니셔티브를 단일 재무 방정식에 강요하려는 시도는 좌절과 과소 투자로 이어진다고 강조했습니다.

측정 가능한 ROI는 시간, 비용 또는 품질에 걸쳐 검증된 과거 기준선을 가진 개별 워크플로에 적용됩니다. 인바운드 영업 개발 워크플로에서 리드 조사 및 개인화된 메시징을 자동화하면 SDR당 주당 10시간에서 1시간으로 인간의 아웃리치 노동이 감소했습니다. 4인 팀의 경우, 월별 순 비용은 4,500달러에서 1,700달러(주간 200달러 추론 비용 포함)로 감소했으며, 예약된 미팅 비율은 5%에서 7%로 증가하여 월별 영업 파이프라인에서 약 120만 달러가 추가로 확보되었습니다.

더 넓은 배포의 경우, 방향성 ROI는 시간 경과에 따른 기능적 지표를 추적하며(예: Section의 엔지니어링 팀이 월별 풀 리퀘스트를 2.5개에서 9.4개로 늘리고 엔지니어 급여의 0.75에 해당하는 추론 비용을 지출), 가정된 ROI는 인력 역량 증가를 모델링합니다. 그러나 Witten은 내부 출력 용량을 늘리는 것이 비즈니스가 추가 출력을 성공적으로 수익화할 수 없는 한 경제적 수익을 창출하지 못한다고 경고하며, 경영진이 증거에 대한 기대를 전환의 성숙도에 맞출 것을 촉구했습니다.

PwC의 수석 클라이언트 파트너 Bhushan Sethi는 기업 리더들이 AI 지표를 재무, 고객, 직원 및 위험 차원을 아우르는 고전적인 균형 성과표 프레임워크에 다시 연결해야 한다고 주장했습니다. 토큰 볼륨이나 직원 교육 횟수와 같은 투입 활동을 측정하는 것은 고객 유지, 파이프라인 전환 또는 운영 마진과 같은 비즈니스 결과에 직접 연결되지 않으면 의미가 없습니다.

Sethi는 기업이 결함이 있거나 비표준적인 프로세스를 자동화하려 시도하거나 검증되지 않은 데이터 품질 문제를 접할 때 구현이 일상적으로 실패한다고 언급했습니다. 효과적인 전환은 워크플로를 세분화된 작업 수준(L3 ~ L5)으로 매핑하여 어떤 작업을 자율 에이전트가 처리할 수 있는지, 그리고 나머지 책임이 인간의 직무 역할을 어떻게 재정의하는지 정확하게 식별해야 합니다.

인력 역학에 대해 Sethi는 AI가 조정, 프레젠테이션 초안 작성, 초기 연구와 같은 일상적인 작업을 처리하므로 지식 집약적 부문 전반에 걸쳐 신입 사원 채용이 감소하고 있음을 확인했습니다. 미래 리더십을 육성하기 위해 조직은 주니어 직원에게 클라이언트 스토리텔링, 관계 구축 및 환각 감지와 같은 독특한 인간 역량을 의도적으로 훈련해야 하며, 잠재적인 컴퓨팅 인플레이션, 임금 변동 및 미래 AI 노동 과세에 대비한 장기적인 비용 지속 가능성을 모델링해야 합니다.

Wayfair CTO Fiona Tan은 전자상거래 회사가 5,000~6,000명의 기업 지식 근로자에게 결정론적 워크플로 자동화 플랫폼인 N8N과 함께 생성 도구를 배포하는 전략을 설명했습니다. 법무, 재무 및 공급망 전반의 비기술 인력에게 결정론적 플랫폼을 제공함으로써 직원들은 표준 운영 절차를 코드화하고 컨텍스트 평가가 필요한 경우에만 대규모 언어 모델을 선택적으로 연결할 수 있었습니다.

기술 운영에서 Tan은 4천만 개 제품에 걸친 Wayfair의 카탈로그 강화 이니셔티브를 강조했습니다. 엔지니어링은 처음에 고급 최첨단 모델을 사용하여 자동화된 제품 데이터 추출 및 이미지 불일치 감지를 검증했습니다. 워크플로가 효과적임이 입증되자 팀은 오프피크 컴퓨팅 시간 동안 배치 모드로 오프라인에서 실행되는 전문 모델로 실행을 전환하여 운영 비용을 95% 절감했습니다.

통제 불능의 토큰 지출을 완화하기 위해 Wayfair는 다양한 직원 페르소나에 걸쳐 월별 사용량 상한선을 시행하고, 일반 기업 직원에 대해 값비싼 최첨단 모델을 끄고, 예산 경고를 비효율적인 루프 워크플로를 수정하기 위한 진단 트리거로 사용합니다. 특히 Tan은 직원들이 샌드박스에서 개인 생산성 워크플로를 구축할 수 있지만, 프로덕션 데이터베이스와 상호 작용하는 모든 코드는 PagerDuty의 전담 엔지니어링 팀에 의해 엄격하게 관리되고 유지되어야 한다고 언급했습니다.