대부분의 AI 스타트업은 실패할 것, 올트먼 경고

많은 스타트업이 특정 기업 수직 분야를 위한 AI 에이전트 개발에 집중하는데, 올트먼은 이러한 접근 방식이 성공할 가능성이 있지만 이 시대의 가장 성공적이고 결정적인 회사를 만들지는 못할 것이라고 인정합니다. 그는 현재 AI 역량을 명백한 해결책에 적용하는 이러한 점진적인 사고방식이 창업자들을 획기적인 혁신을 촉진하기보다는 경쟁적인 환경에 가두는 것이라고 믿습니다. 창업자들은 AI의 지속적인 기하급수적 확장을 내면화하고 오늘날 가능한 것뿐만 아니라 미래의 더 발전된 역량을 위한 솔루션을 설계해야 합니다.

초기 단계 창업자들은 회사에 위협이 되는 중요한 사건에 직면했을 때 종종 심한 감정적 어려움을 겪습니다. 올트먼은 침착함을 유지하고 혼란스러운 시기를 효과적으로 헤쳐나가는 능력이 필수적이지만 이론적으로 가르칠 수 없으며 반복적이고 직접적인 경험을 통해 얻어야 한다고 설명합니다. 이러한 위기를 처음 겪을 때는 재앙처럼 느껴지지만, 연습을 통해 관리 가능해지며 세상의 종말처럼 보이던 사건이 일상적인 도전으로 변모합니다.

올트먼은 소수의 개인이나 기업이 전 세계 AI 자원을 통제하려 할 수 있는 AI 권위주의의 위험에 대해 상당한 우려를 표합니다. OpenAI의 사명은 AI가 모두에게 풍부하고 저렴하며 강력해지도록 보장하여 이러한 중앙 집중식 통제를 방지하는 것입니다. 이를 달성하기 위해 당장 집중해야 할 것은 칩, 에너지, 데이터 센터와 같은 근본적인 물리적 구성 요소를 개발하는 것입니다. OpenAI는 모든 수직 분야와 제품을 직접 구축하기보다는 분산된 AI 경제를 육성하는 것을 목표로 합니다.

이 혁신은 대규모 프로젝트를 가능하게 하고 재정적 위험을 분산시키는 데 중요했습니다. 법인에 내재된 유한 책임 보호는 주주의 이해관계를 일치시키고 개별 재정 노출을 완화함으로써 투자를 더욱 장려했으며, 올트먼은 이를 인센티브 조정의 중요한 형태로 간주합니다.

올트먼은 자아 중심적인 CEO와 사회병질자를 구별하며, 일부는 자신에 대해 매우 높은 평가를 가지고 있음에도 불구하고 모든 대기업 리더가 후자에 속하는 것은 아니라고 지적합니다. 그는 자본주의가 생산적인 결과에 대해 본질적으로 필터링하며, 결과를 낼 수 있는 리더에게 보상한다고 말합니다. 많은 고기능 리더들은 비즈니스의 '전략적 게임'에 동기를 부여받아 복잡한 문제를 해결하고 조직 목표를 달성하는 데서 만족을 찾습니다.

올트먼은 매일 수백 명의 개인과 연결하며 엄청난 양의 문자 커뮤니케이션에 참여하는데, 이는 본질적으로 '좋은' 것은 아닐 수 있지만 다른 사람들과 다른 결정을 내릴 수 있게 한다고 인정합니다. 이러한 높은 정보 흐름은 전술적 우위를 제공하여 광범위한 맥락을 빠르게 수집할 수 있게 합니다. 그는 방대한 관점과 데이터 포인트를 처리함으로써 지속적인 입력으로 인해 주의 집중 시간이 짧아졌음에도 불구하고 전략 및 운영에 대한 더 빠르고 정보에 입각한 조정을 할 수 있습니다.

그는 35일 동안 28개국을 방문했는데, 직접적인 참여가 AI에 대한 인식을 안정화하고 성급한 과도한 규제를 막는 데 중요하다고 믿었습니다. 그의 목표는 AI 기술의 잠재력에 대한 두려움을 직접 해결하고 설명하여 발전된 AI에 대한 보다 신중하고 정보에 입각한 글로벌 대응을 보장하는 것이었습니다.

올트먼은 많은 개인이 대담한 행동과 관련된 위험을 과대평가하여 종종 행동 불능으로 이어진다고 주장합니다. 그는 개인의 '지적 장벽'이 사람들이 진정으로 낮은 위험 기회를 인식하는 것을 방해하여 실제보다 더 위험하게 보이게 한다고 믿습니다. 이러한 정신적 장벽을 극복하기 위해 그는 결정을 소리 내어 말하는 것이 생각을 명확히 하고 관련된 실제 위험 수준을 드러내는 데 도움이 될 수 있다고 조언합니다.

그는 이를 독립적인 주도권을 키우기보다는 관리자에게 의존하도록 개인을 훈련시키는 기업 구조 때문이라고 설명합니다. 이러한 내재된 야망과 자립심 부족은 스타트업의 자율적이고 고위험 환경으로 전환할 때 이러한 창업자들에게 상당한 장애물이 됩니다.

Microsoft의 OpenAI에 대한 상당한 투자는 특히 Google이 DeepMind를 소유하고 있다는 점을 고려할 때 급성장하는 AI 환경에서 중요한 위치를 확보하기 위한 전략적 필요성에 의해 추진되었습니다. 올트먼은 이 파트너십이 매우 성공적이라고 보고 있으며, Microsoft의 시가총액에 수조 달러를 추가했다고 추정합니다. 이 협력은 Microsoft에 중요한 클라우드 성장 기회와 최첨단 AI 기술에 대한 접근을 제공하여 주요 기술 분야에서 경쟁력을 보장합니다.

AI 산업은 챗봇의 부상에 이어 고급 코딩 에이전트라는 두 가지 중요한 물결을 경험했습니다. 올트먼은 가상 동료, 공동 작업자 또는 '비서실장' 역할을 할 '지속적인 에이전트'를 중심으로 하는 세 번째 물결이 곧 올 것이라고 예측합니다. 그는 이 다음 단계를 강력한 기능을 인류의 궁극적인 이익을 위해 사용하도록 신중한 정렬이 필요한 '요정'을 만드는 것으로 설명합니다.

올트먼은 수학 분야에서 AI의 성능이 미래 역량의 중요한 지표임을 강조하며, 자코비안 문제와 같은 복잡한 문제가 Claude와 같은 AI에 의해 며칠 만에 빠르게 해결된 사례를 언급합니다. 이는 AI가 다양한 분야의 오랜 지적 문제를 해결하는 데 크게 도움이 될 잠재력을 보여줍니다. 그는 AI가 인간의 지적 능력을 증강하여 미래에 수많은 새롭고 가치 있는 직업 기회를 열어줄 것이라고 예측합니다.

올트먼은 더 나은 알고리즘을 만드는 알고리즘 개발에 지나치게 집중하고 있으며, 데이터 센터 확장이라는 중요한 필요성에는 충분한 주의를 기울이지 않고 있다고 주장합니다. 그는 방대한 로봇 함대를 관리하기 위해 고급 지능을 활용하고, 이 로봇들이 필수 인프라를 구축하고 확장하는 것을 구상합니다. 이 접근 방식은 AGI의 기하급수적 성장을 지원하기 위한 '로봇-로봇' 공급망을 구축하는 물리적 현실을 강조합니다.

OpenAI는 가장 높은 잠재적 영향을 가진 프로젝트를 우선시하기 위해 중간 정도 성공적인 프로젝트에서 자원을 재배치하는 몇 가지 중대한 결정을 내렸습니다. 여기에는 로봇 공학 및 Sora에서 초점을 이동하여 코딩 에이전트와 같은 분야에 컴퓨팅 자원을 집중하는 고통스러운 선택도 포함됩니다. 올트먼은 좋은 것을 전략적으로 '폐기'하는 것이 최고의 것을 더욱 효과적으로 만들기 위해 필요하며, 제한된 자원이 가장 야심찬 목표에 사용되도록 보장한다고 설명합니다.

올트먼은 압도적인 영향력 때문에 TikTok을 삭제했던 개인적인 경험을 솔직하게 공유하며, 순간적으로 즐거웠지만 궁극적으로 해로웠던 약물 같았다고 인정합니다. 그는 사용자의 이러한 개인적인 통찰력을 제품 연구 및 개발 접근 방식에 활용합니다. 이 경험은 개발자들이 사용자 시간을 오용하는 제품을 만들지 않아야 할 윤리적 책임과 기술의 중독성 잠재력을 명확히 인식해야 할 필요성을 강조합니다.

초기 VR 상황과 같은 가짜 트렌드는 상당한 과대광고를 수반하지만 궁극적으로 깊고 지속적인 사용자 몰입이 부족합니다. 사람들은 제품을 사지만 진정으로 사랑하거나 생활에 통합하지는 않습니다. 이와 대조적으로, 실제 트렌드는 사용자 일상 구조의 필수적인 부분이 되어 습관과 일상을 근본적으로 변화시킵니다. 이는 Y Combinator에서 관찰된 데이터를 통해 얻은 틀입니다.