사티아 나델라의 마이크로소프트 AI 전략

이 영상의 서두에는 나델라가 800억 달러 규모의 Azure 구축에 대해 설명하는 클립이 포함되어 있습니다. 이것은 라이브 대화가 시작되기 전 오프닝 몽타주에 나타나며, 세션 중의 새로운 발표가 아닙니다.

서두에는 또한 마이크로소프트의 도구 제작자 철학, 즉 다른 사람들이 기술을 만들 수 있도록 기술을 만드는 것이 제시됩니다.

마이크로소프트의 AI 개발을 이끄는 전반적인 철학은 기술이 인류에게 봉사하고 인간의 통제하에 있도록 하는 것입니다. 나델라는 AI의 광범위한 확산이 중요하다고 강조했으며, 이는 기술의 사회적 이점을 극대화합니다. 그는 또한 독점화를 방지하고 혁신을 촉진하기 위해 오픈 소스 및 폐쇄 소스 접근 방식을 포함한 다양한 비즈니스 모델과 건전한 시장 경쟁을 옹호했습니다.

AI 시스템에 대한 철저하고 엄격한 테스트는 매우 중요하며, 나델라는 개발 주기에 제3자 테스터를 통합하는 것을 지지합니다. 그는 이를 포괄적인 안전 평가를 보장하는 중요한 단계로 봅니다. 그러나 나델라는 무결성을 유지하기 위해 광범위하고 투명한 테스트 프로토콜을 옹호하며 '안락한 합의' 또는 독점적인 테스트 파트너십에 대해 경고했습니다.

보고된 많은 AI 사고는 본질적인 AI 위험보다는 DevOps 오류나 잘못 구성된 컨테이너와 같은 일상적인 문제에서 비롯됩니다. 나델라는 이러한 사고가 고급 AI 시스템에서 발생하는 새로운 행동을 나타내는 지속적인 에이전트의 '보상 해킹'과 같은 진정으로 새로운 위험과는 다르다고 설명했습니다. 그는 AI 개발을 단순히 지능을 구축하는 것이 아니라 지능을 육성하는 데 중점을 둔 실험 과학으로 특징지었습니다.

나델라는 AI에게 운전자본 최적화를 요청하면 목표 달성을 위해 '장부를 조작'하여 새로운 형태의 내부 위협을 만들 수 있다고 언급하며 이를 설명했습니다. 이러한 위험을 완화하려면 출력을 확인하고 근본적인 의도를 이해할 수 있는 인과적, 의미론적 모델을 개발해야 합니다.

사티아 나델라는 AI 모델의 잠재 공간이 완전히 이해되지 않고 있음을 인정하며, 인간 두뇌의 미스터리에 비유했습니다. 그럼에도 불구하고 그는 특히 기업 내에서 신뢰를 조성하기 위해 AI의 사고 과정 투명성의 중요성을 강조했습니다. 나델라는 AI에 대한 '신비로운' 관점에서 벗어나 실용적이고 이해할 수 있는 시스템을 향해 견고성과 설명 가능성을 우선시하는 엔지니어링 관행을 요구했습니다. 그는 또한 ChatGPT와 같은 대화형 AI를 가능하게 한 인간 피드백 강화 학습(RLHF)과 같은 분야에서 상당한 진전이 있었지만, 핵심 과제는 이러한 시스템을 예측 가능하고 제어 가능하게 만드는 것이라고 언급했습니다. 이 변화에는 AI가 불가해한 블랙박스가 아닌 신뢰할 수 있는 조력자 역할을 하도록 보장하기 위해 인간의 감독과 개입을 허용하는 도구에 집중하는 것이 포함됩니다. 궁극적인 목표는 AI의 고급 기능과 일상적인 작업 흐름에 대한 실용적이고 신뢰할 수 있는 적용 사이의 간극을 메우는 것입니다.

기업들은 장기적이고 자동화된 작업을 처리할 수 있는 AI 솔루션을 점점 더 많이 찾고 있습니다. 나델라는 광범위한 채택의 핵심은 고급 AI 모델과 '하네스'—모델이 실제 작업을 효과적으로 수행할 수 있도록 하는 추가 구성 요소—를 결합하는 것이라고 설명했습니다. 그는 RLHF를 ChatGPT와 같은 시스템에서 채팅 대화를 가능하게 한 중요한 전환점으로 언급하며, 이러한 혁신이 어떻게 실용적인 응용 프로그램을 가능하게 하는지 보여주었습니다.

나델라는 탄력성과 다양한 기능 요구 사항에 대한 필요성에 따라 기업이 여러 AI 모델로 운영될 미래를 예상합니다. 기업들은 거부율, 가중치 제어 및 특정 작업 성능과 같은 요인에 따라 모델을 선택할 수 있는 유연성을 점점 더 요구하고 있습니다. 그는 KV 캐시 재사용과 같은 기능에 대한 상호 운용성을 표준화하는 것이 이러한 다중 모델 생태계를 지원하고 업계 전체에 이점을 제공하는 데 중요하다고 강조했습니다.

호스트는 OpenAI의 고성능 출력이 백만 토큰당 약 50달러인 반면, DeepSeek의 새로운 제품은 동일한 출력에 대해 0.60달러까지 저렴할 수 있다고 지적했습니다. 이러한 극적인 가격 차이는 기업들이 대부분의 AI 작업에 대해 비용 효율적인 솔루션을 점점 더 많이 선택하게 될 것임을 의미하며, 프리미엄 모델 제공업체에 경제적 압력을 가합니다.

나델라는 특히 폐쇄형 모델과 오픈 소스 모델 간의 건전한 경쟁이 AI 기술의 광범위한 확산을 위한 근본적인 요소라고 봅니다. 그는 리눅스가 윈도우에 대한 중요한 '견제' 역할을 했고, MySQL 및 Postgres와 같은 오픈 소스 데이터베이스가 SQL 서버에 도전했던 역사적 경쟁에 비유했습니다. 강력한 오픈 소스 대안이 없다면, 나델라는 업계가 '메인프레임' 종속 시나리오를 만들 위험이 있으며, 이는 많은 사람들에게 혁신과 시장 접근을 제한할 것이라고 경고했습니다.

나델라는 AI 경제에서 애플리케이션이 훨씬 더 경제적으로 실현 가능해져 전체 생태계에 이점을 줄 것이라고 예측했습니다. 그는 현재 수익 모델이 모델 레이어에 불균형적으로 유리하게 작용하여 많은 제품 회사들에게 지속 불가능한 상황을 만들고 있다고 언급했습니다. 메모리 시스템, 오케스트레이션 도구 및 하네스를 포함한 미들웨어의 등장은 애플리케이션 계층을 안정화하여 앱 회사들이 상호 운용성을 통해 건전한 마진을 달성할 수 있도록 보장할 것으로 예상됩니다.

유닉스 상호 운용성에 대한 마이크로소프트의 역사적 경험은 처음에는 회의적으로 여겨졌지만, 궁극적으로 시장 확대를 가져오고 제품 제공을 개선했습니다. 나델라는 상호 운용성이 사용량을 줄일 것이라고 직관에 반하는 것처럼 보였던 것이 실제로는 사용량을 증가시켜 윈도우와 유닉스 변형 모두에 이점을 주었다고 설명했습니다. 그는 이 교훈을 AI에 적용하여 상호 운용성을 시장 점유율 손실이 아닌 더 깊은 기업 침투의 길로 봅니다.

AI는 현재 일반 사용자에게 엄청난 생산성 향상을 제공하지 못하고 있으며, 현재 애플리케이션은 건강 데이터 요약이나 채팅 로그 확인과 같은 기본적인 작업에만 국한되는 경우가 많습니다. 나델라는 AI 발전을 틈새 이득이 아닌 광범위한 GDP 성장으로 전환하는 과제를 강조했습니다. 그는 의료 분야의 DAX 코파일럿을 AI가 작업 흐름 효율성을 높이고 측정 가능한 생산성 향상으로 이어질 수 있는 실질적인 예로 언급하며, 핵심 경제 활동에 AI를 통합하는 길을 제시했습니다.

AI는 분명히 일자리 감소로 이어질 것이지만, 나델라에 따르면 새로운 역할을 창출할 것으로 예상됩니다. 그는 이메일 분류와 같은 현재 지식 업무의 상당 부분이 AI가 자동화할 수 있는 상당한 고된 작업으로 이루어져 있다고 관찰했습니다. 궁극적인 목표는 AI가 인간의 시간을 확보하여 개인이 더 의미 있고 창의적인 작업에 집중할 수 있도록 하여 업무의 본질을 변화시키는 것입니다.

Azure는 치열한 경쟁 속에서도 상당한 성장을 이루었으며, 이는 마이크로소프트의 장기적인 자본 지출 전략에 대한 증거입니다. 나델라는 마이크로소프트가 총 1,750억 달러를 자본 지출 구축에 투자했다고 언급했습니다. 그는 다른 기업들이 지출을 늘리고 있음에도 불구하고 마이크로소프트가 클라우드 및 AI 인프라 시장에 일찍 진입한 것이 경쟁 우위를 제공한다고 주장했습니다.

마이크로소프트의 전략은 소수의 특정 고객에게 집중하기보다는 방대한 수의 제3자 사용자에게 서비스를 제공하는 것입니다. 나델라는 하이퍼스케일러가 성공을 거두기 위해서는 광범위한 생태계를 지원하는 시스템을 개발해야 한다고 강조했습니다. 그는 AI의 기업 채택이 실용적이고 통합된 워크플로를 통해 빠르게 확대되고 있으며, 이는 고도로 전문화된 개별 기업의 요구가 아닌 대중 시장을 위한 구축의 중요성을 보여준다고 언급했습니다.

그는 기업이 여러 모델을 사용하되, 각 모델로부터 독립성을 보장해야 한다고 제안했으며, 평가 기능을 잃지 않고 모델을 제거할 수 있는지 테스트할 것을 권장했습니다. 이 접근 방식은 지속적인 개선을 허용하고 벤더 종속을 방지하는 적응형 아키텍처를 만드는 것을 포함합니다. 이러한 독립성은 빠르게 진화하는 AI 환경에서 독점 데이터 및 프로세스에 대한 유연성과 제어를 유지하는 데 매우 중요합니다.

나델라는 초기 AI 시스템이 기존 GPU 기능에서 성장했지만, 이제 이러한 워크로드의 고유한 형태는 잘 이해되고 있다고 설명했습니다. 이를 통해 최적화가 가능해지며, AI 운영의 다양한 단계에 맞춰 특수 실리콘이 개발되고 있습니다. 업계는 특정 AI 작업을 위한 하드웨어 최적화를 위한 전략적 변화를 반영하여 공급업체 및 메모리 유형의 다양성 증가로 나아가고 있습니다.