Mistral은 AGI 대신 유용성을 택했고, Kitze는 오케스트레이터를 다시 만들었다

증기기관은 발명 후 수십 년 동안 생산성 증가에 거의 기여하지 않았고, 데이터에서 성장이 확인되기까지 100년 이상이 걸렸다는 관찰이 그 출발점이다.

그는 경제성장의 장기적 주된 동인이 기술 개선과 조직 진보에서 나오는 생산성 향상이라고 정의했다. 이 정의를 놓고 보면, AI가 언제 통계에 나타날지는 기술의 등장 시점이 아니라 확산과 제도 정비의 속도에 달려 있다는 문제 설정이 된다.

경제사에서 범용기술은 GPT(general purpose technology)로 불리며, Rawert는 이 약어가 AI의 GPT와 우연히 겹친다고 짚었다. 범용기술의 속성으로 그는 세 가지를 들었다. 경제 전 부문에 퍼지는 확산성, 장기간 개선될 여지, 그리고 응용이 늘수록 기술 자체의 가치가 올라가는 상보성이다.

범용기술의 예로는 물레방아, 증기기관, 철도, 전기, 컴퓨터가 나열됐다. 여기에 별도 범주로 연구개발 자체를 개선하는 혁신 유형이 제시됐는데, 인쇄술과 현미경, 기업 연구소, 대학 연구소, 머신러닝이 그 예로 언급됐다. 최근 몇 주 사이 수학에서 그런 쓰임이 나타났다는 관찰도 덧붙었다.

그는 AI가 이 두 범주에 동시에 해당한다고 본다. 빠르게 포화되지 않고 오랫동안 성장에 기여할 확산형 기술이면서, 동시에 발명 과정 자체를 개선하는 데 쓰일 수 있는 기술이라는 것이다.

규모 감각을 위해 제시된 수치도 있다. 미국 경제는 지난 150년간 연 2%씩 성장했고, 로그축 그래프에서 140년 동안 1인당 소득이 약 10배가 됐다. 1880년부터 2020년 사이에 자동차, 항공, 우주여행, 생명공학, 인터넷 등 현대 기술 대부분이 발명됐다.

AI가 기존 연 2% 성장 추세를 그대로 연장할지, 아니면 가속할지에 대해 경제학자들 사이에 합의는 없다. 낮은 쪽 추정은 추세 대비 연 0.1%포인트의 추가 성장에 그친다.

반대편에는 재귀적 자기개선이나 지능 폭발을 반영한 모델이 있다. 이쪽은 한 자릿수 후반 퍼센트포인트의 증가 가능성까지 제시한다. 생활수준이 복리로 쌓이는 구조이기 때문에, 앞으로 몇 년간 어느 성장 체제에 들어가느냐가 장기적으로 큰 차이를 만든다는 것이 그의 강조점이다.

증기기관은 근육과 강물에서 기계 동력을 분리하고, 동력을 규모 있게 공급하며 위치에 구애받지 않게 만들었다. 1712년 Thomas Newcomen이 처음 발명했고 이후 James Watt가 크게 개선했다.

기술이 계속 개선되며 공장과 산업에 널리 채택된 것은 19세기에 들어서다. 고압 증기기관이 확산되고 동력 가격이 수십 배 떨어진 뒤에야 생산성과 GDP가 통계에 잡혔다.

여기에는 새 공작기계와 철도, 증기선, 숙련 노동력 같은 보완재의 발명과 배치가 함께 필요했다. 발명에서 생산성 증가가 확인되기까지는 이르게 잡아도 100년이 넘는다.

경제학자 Robert Solow는 1987년 "컴퓨터 시대는 어디에나 보이지만 생산성 통계에서는 안 보인다"고 썼다. 당시 개인용 컴퓨터는 이미 널리 퍼져 있었다. 정보기술이 정보 처리와 저장, 통신 비용을 급격히 낮췄는데도 생산성이 실제로 반응한 것은 1990년대 중후반이었다.

이번에 요구된 변화는 주로 조직적 성격이었다. 기업과 노동자가 프로세스를 바꾸고 기술을 익히고 적합한 보완재를 들여와야 했다. 기업용 소프트웨어와 데이터베이스 기술 개발, 디지털 회계에 맞춘 공급망 재설계, 개별 하드웨어와 소프트웨어의 대규모 배포가 여기 포함된다. 조직의 변환은 기술 발명 자체보다 훨씬 느렸다.

이 패턴은 J커브 관계로 설명된다. 도입 초기의 투자와 학습, 하드웨어 구매가 생산성 성장을 늦췄다가 나중에 가속시킨다는 것이다.

역사적 비교 수치가 나란히 제시됐다. 1840년대 철도 투자는 단일 연도에 GDP의 5~7%에 달했고, 1999년 미국 통신·광섬유 붐은 1~1.5% 수준이었다.

AI 인프라 투자는 올해 이미 미국 GDP의 약 1.8%로 광섬유 붐보다 크다. 2028년에는 약 3%에 이를 것으로 전망된다. Rawert의 표현대로라면 AI 인프라는 역사상 가장 큰 투자 붐들과 이미 같은 대열에 올라 있다.

그는 거품 여부를 두고는 선을 그었다. 판단을 내리지 않겠다는 입장이다.

다만 역사적 관찰이 하나 더 있다. 거품이었더라도 지어진 인프라는 이후까지 살아남아 값을 할 수 있다는 것이다. 남아돈 철도 선로와 '다크 파이버'가 더 싼 운송과 스트리밍을 가능하게 했다는 사례가 그 근거로 제시됐다.

Sizzy의 Kitze는 평소라면 "작업 중인 39개 제품"을 홍보하지만 이번에는 그러지 않겠다며 슬라이드 한 장을 꺼냈다. 그 자리에서 공개한 것은 tinker.club이라는 URL이다.

그는 이 모임 구성원을 "자기 자신을 복사해 붙여넣은 버전"이라고 표현했다. 하드웨어와 3D 프린팅, AI, SaaS, 사업 운영에 관심사가 겹치는 사람들이 모여 있다는 설명이다.

스스로의 입장 변화도 인정했다. 예전에는 셀프호스팅하는 사람들을 놀리며 그냥 Vercel이나 Railway에 돈을 내라고 했는데, 이제는 반대편으로 건너가 리눅스 박스와 Tailscale을 돌리고 있다는 것이다.

Kitze는 사용자를 데스크톱 진영과 CLI 진영으로 나눈다. 후자를 해커, 팅커라고도 부른다. 그는 자신이 늘 터미널과 CLI를 싫어했다고 고백했다. 클릭할 수 있는 예쁜 UI를 달라는 쪽이라는 것이다.

3년 동안 cursor, conductor를 비롯한 오케스트레이터들이 내놓은 레이아웃은 사실상 같다. 왼쪽에 채팅 사이드바, 가운데에 채팅, 오른쪽에 git diff가 놓이는 구조의 복사·붙여넣기라는 것이다.

새 오케스트레이터를 만들며 3,700만 달러를 유치했는데 스크린샷은 Codex나 Cursor처럼 생겼다는 농담도 여기서 나왔다. 자신의 버전은 강연 끝에 보여주겠다고 예고했다.

그는 자신을 데스크톱과 CLI 사이를 오가는 사람으로 위치시킨다. 극단에는 Proxmox 안의 VM 안의 oh-my-pi 안의 oh-my-pi 같은 설정을 쓰는 "완전히 미친 사람들"이 있다.

Kitze는 몇 년 동안 터미널과 데스크톱 앱을 오갔고 직접 오케스트레이터까지 만들었다. 그러다 1~2주 전 가장 단순한 터미널에 Herder를 세팅했고, 그 기간에 가장 많이 배송했다고 말한다.

그가 던진 결론은 단정이 아니라 질문이다. 소프트웨어 팩토리라는 것을 우리가 과하게 복잡하게 만든 게 아니냐는 것이다. 다만 맥락에 달려 있다는 조건을 붙였다. 함께 일하는 사람이 있는지, 몇 명인지, 팀이 몇 개인지, 혼자인지, 그리고 정확히 무엇을 배송하는지에 따라 달라진다는 것이다.

그는 예전에 조롱했던 Pi로 옮겨갔다. 그때는 "그냥 사람답게 굴고 Claude나 Codex를 써라"라고 말하던 쪽이었다. 전환 이유는 실무적이다. Claude 할당량이 소진되면 Codex CLI로 옮겨 다녀야 했는데, 두 도구는 서브에이전트를 띄우는 방식과 컴팩션 처리 방식이 완전히 달랐다.

세 도구 위에 오케스트레이터를 얹는 것은 어려웠다. CLI만의 문제가 아니라 각자의 작업 방식이 달랐기 때문이다. Pi는 기본 상태에서 아무것도 하지 않는 CLI로 배송된다. 컴팩션에도 플러그인이, 서브에이전트에도 플러그인이 필요하고 프로세스를 온전히 통제할 수 있다. 그는 이를 "하네스의 리눅스"라고 불렀다.

Kitze는 200달러짜리 구독을 4개 결제하고 있다. 사람 한 명보다는 여전히 싸다는 것이 그의 계산이다. 다만 한도를 시차를 두고 관리해야 한다는 번거로움이 따른다.

그가 쓰는 것은 codex load balancer다. 주간·일간 한도를 인식하면서 어느 계정에서 빼낼지 골라주는 단일 엔드포인트다. 그는 자신의 한도가 사실상 만료된 적이 없었다고 말한다.

그러다 Astra가 나오면서 사정이 달라졌다. 하루 만에 한도가 사라졌다는 것이다. Astra를 보너스 등급으로 쓰면 라이브 음성과 이미지 생성이 같은 엔드포인트에서 돌아가고, 자신의 모든 앱이 이를 공유한다.

여기서 끝이 아니다. Cursor와 Gemini 등은 Easy CLI 프록시 API라는 또 다른 로드밸런서 프록시 뒤에 있다. 그 위에는 누구에게 핑을 보낼지 결정하는 AI 라우터가 "마스터 엔드포인트"로 올라간다. 정작 본인은 "배송한 게 여전히 별로 없다"고 인정하며, Pi와 Herder 정도로 더 생산적으로 하라고 권한다.

Kitze가 저글링하는 항목은 전원, 4개의 구독, 로드밸런서, 프록시다. 도구는 늘었는데 그것을 지휘하는 것은 결국 자기 머리라는 문제가 남는다.

그의 판단은 명확하다. 이 혼란을 정리할 자기만의 오케스트레이터를 만들지 않으면 아무 데도 가지 못한다는 것이다.

Mistral 발표자는 자사를 유럽의 최전선 AI 연구소라고 소개했다. 3년 4개월 전 아주 작은 회사로 시작했고, 현재 인원은 1,300명이다.

미션은 명확하다. AI를 고객 손에 쥐여주고 기업의 운영 방식을 바꾸는 것이다. AGI를 찾는 것이 아니라 실용성을 찾는다는 표현이 그대로 나왔다.

개념검증 단계를 프로덕션으로 넘기는 전담 팀도 있다.

발표자는 청중이 Le Chat 소식을 들으러 왔다는 것을 알고 있다고 먼저 인정했다. 그러면서 오늘 발표하지는 않겠다고 분명히 했다. 제대로 나올 수 있도록 열심히 작업하고 있으니 믿어달라는 말이 덧붙었다.

대신 앞으로 다룰 아젠다를 제시했다. 일의 미래, 에이전트 안전성, 주권, 그리고 새 모델들이다.

이 발언은 뒤에 나올 대형 모델 관련 발언과 짝을 이룬다. 무엇을 내놓을지는 말하지 않고 시점만 약속하는 구성이다.

최근 10일 사이 가족이 AI가 세상을 끝장낼지 묻더라며, 발표자는 Mistral은 그러지 않을 것이라고 답했다. 그 위에 구체적인 위협 모델이 제시됐다.

첫째는 에이전트가 다수의 커넥터와 방대한 데이터에 특권 접근 권한을 갖는다는 점이다. 둘째는 비결정성이다. 실행할 때마다 결과가 달라지니 "이러면 하지 마라" 같은 하드코딩 가드레일을 붙이기가 어렵다. 셋째는 공격자가 통제하는 입력과 점점 정교해지는 프롬프트 인젝션이다.

모든 모델에 탈옥이 존재하고, 사용자나 외부 데이터를 가져오는 행위는 항상 위협이라는 설명도 나왔다. 대응으로는 모델에 인젝션과 진짜 지시와 안전하지 않은 사용자 맥락을 구분하도록 가르치는 것, 그리고 에이전트 권한을 제한하는 것이 제시됐다. 런타임 제한은 단계에 따라 동적으로 이뤄진다는 설명이다.

기업에 이미 깔려 있는 통제 계층이 나열됐다. 동적 권한, 샌드박스, 런타임 가드레일, 저수준 트레이스다. 트레이스를 보면 각 시스템 호출과 네트워크 호출을 검사해 에이전트 행동에 대한 휴리스틱을 도출할 수 있다는 설명이 뒤따랐다.

문제는 그 다음이다. 강력한 에이전트와 강력한 도구를 만들어놓고 모든 것을 두려워해 전부 제한하면 유스케이스가 부서진다. 발표자는 이를 명확한 딜레마라고 불렀다.

Mistral의 답은 동적 협업이다. 좋은 이유가 있을 때만, 적절한 순간에 맞는 권한을 부여하는 방식이다. 어떤 작업을 허용할지, 왜 허용할지를 걸러내는 절차도 여기에 포함된다.

범용 모델군은 용도별로 여러 크기로 나온다. 지금까지 주력해온 특화 모델과는 대비되는 구성이다.

대형 모델에 대해서는 이름도 날짜도 주지 않았다. 곧 내놓을 수 있기를 바란다는 말만 남겼다.

청중이 기대하는 것이 있다는 점은 인정하면서도, 이 자리에서 공개할 수 있는 것은 시점에 대한 기대뿐이었다.