Erik Cason: "AI는 자본주의를 기술이 정복한 결과"

Erik Cason은 인터뷰 시작부터 "그들이 가장 팔고 싶어하는 주된 상품은 AI 정신증이라고 생각한다"고 말했다. 그는 현재를 AI를 이용한 '완전한 인간 실험' 단계로 본다.

그는 AI를 두려워하며 '라이트(lite)' 버전으로 접근하는 사람들에게는 디스토피아적 결말이 온다고 봤다. 반대로 사용자에게만 응답하는 '자기주권적 개인 AI'는 다른 결과를 낳을 수 있다는 주장이다.

"미국이 중국 AI 모델에 대한 접근을 끊으면, 그 모델을 쓰려면 비트코인이 필요할 것"이라고도 했다. 결제 수단이 곧 저항 수단이 된다는 구상이다.

언어가 근본이고, 그래서 일종의 마법을 다루는 일이라는 설명이다.

철학자 Michael Miller가 Alexander Dugin의 점성술적 세계관을 지적한 점을 들며, 그 역시 AI가 깊이 점성술적이라고 본다. Sam Altman과 Dario Amodei 등이 위험과 구원이라는 서사를 동시에 밀어붙이는 구조가 그렇다는 것이다.

언어가 상상 속의 것을 현실로 불러낼 수 있다는 것이 그의 강조점이다. 기차를 상상한 뒤 실제로 기차를 만드는 과정이 그렇다는 것이다.

Diodorus가 상상적인 것과 비현실적인 것을 구분한 점을 인용하며, AI 논의가 결국 언어와 상징의 문제로 돌아간다고 정리했다.

AI 개발 속도를 늦추자는 제안에 Cason은 단호하게 '아니오'라고 답했다. 그는 AI 안전론자들의 접근 방식을 "가장 겁 많고 비겁한 세계관"이라고 표현했다.

그는 이들이 스스로를 지키지 못하고 권력에 도움을 청하는 사람들이라고 비판했다. 나치에 협력해 게토에 사는 쪽을 택했을 사람들이라고 비교했다.

이들은 '모두를 사랑하는데 당신은 아니다'라는 논리로 AI를 통제하려 할 것이라는 주장이다. 자신의 도시를 '생각 없는 미성숙한 이데올로기'로 망쳤다고도 했다.

진행자는 Dario Amodei가 Anthropic의 통제권을 여러 정부 그룹에 넘기겠다고 말한 점을 들었다. Cason은 이를 '끔찍한 결과'라고 규정했다.

성경의 종말론에서 지구상 모든 사람에게 번호를 매기는 세계 단일정부가 나온다는 지적이다. 그러면서 이것이 다시 점성술적인 서사라고 말했다.

진행자는 이를 '글로벌 판옵티콘'이라고 불렀다. 두 사람은 국경을 넘는 감시 체계라는 점에서 같은 결론에 도달했다.

진행자는 프런티어 연구소 내부에서 AI가 인류를 멸망시킬 확률을 10%로 본다는 이야기를 꺼냈다. Cason은 그 10%가 '말도 안 된다'고 반박하며, 먼저 '인간'을 어떻게 정의할지부터 정해야 한다고 말했다.

거울을 비유로 들며, 자신의 몸과 외모에 대한 통제권이 핵심이라고 본다. 머리를 자르고 외모를 바꾸는 것처럼, 존재 방식도 스스로 선택해야 한다는 논리다.

진행자는 메타 안경에서 애플워치, 뉴럴링크로 이어지는 기술 경로를 짚었다. 그렇게까지 가면 결국 모든 기술을 거부하려는 것처럼 보이는데, 정작 Cason은 직접 AI를 만들고 있다는 지적이 나왔다.

이 질문이 다음 대목의 경계선 논의로 이어진다.

Cason은 AI 시대의 핵심은 '경계선을 어디에 그을 것인가'라고 말했다. 암호학이 바로 "여기부터는 넘어올 수 없다"고 선언하는 지점이라는 설명이다.

그는 AI가 실제 암호 라이브러리에서 진짜 버그를 찾아낼 수 있다는 점은 인정했다. 다만 주사위 굴리기 같은 핵심 수학은 여전히 작동한다는 주장이다.

그는 이것만으로도 인류가 AI로부터 구원받는다고 말했다. 무엇이든 숨기고 감출 수 있다는 사실이 근거다.

진행자는 자기 재귀적 AI가 암호학을 무너뜨릴 새로운 수학을 만들어낼 수 있지 않느냐고 반문했다. Cason은 고양이와 쥐의 게임이 될 것이며, 양자컴퓨팅은 Grover 알고리즘의 한계로 제약이 있다고 답했다. 그가 진짜 붕괴 조건으로 지목한 것은 P=NP 문제다. 그는 계산의 물리적 한계가 곧 언어 내부의 경계선이며, 그것이 '인간이 거주하는 근본 자리'라고 말했다.

Cason은 개별 직원이 인류를 죽일 로봇을 만들려 한다고 주장하는 것은 아니라고 선을 그었다. 다만 "그렇게 하는 정부가 분명히 있다"고 말했다.

Anthropic이 '실제로 사람을 죽이는 데 Claude를 사용했다'는 점을 꼬집으며, 그런 회사가 '인간적인 회사'를 자처하는 것을 비꼬았다.

그는 그들이 가스라이팅을 하고 있다고 말했다. 원하지 않는 척하면서도 국방부 계약을 먼저 적극적으로 찾아나선 것은 그들 자신이라는 것이다. "여러분은 놀아나고 있다. 이 사람들은 인류를 신경 쓰지 않는다"고 했다.

그는 200달러에 8,000달러어치 Claude 크레딧을 주는 프로모션을 연결하며 '당신이 상품'이라고 말했다. 진행자가 중국 오픈소스 모델의 경쟁력, 해자가 예상보다 약했던 점, IPO를 앞둔 회사 보호가 동기 아니냐고 묻자 Cason은 '그렇다'고 답했다. 그는 CEO를 아우슈비츠로 기차를 보내면서 '자기 일을 하는' 사람에 비유했다.

Cason은 생산 비용이 0에 가까워지면 사람들이 그것을 자유롭게 배포하게 된다고 말했다. 그렇게 '그것이 스스로를 먹어치운다'는 표현을 썼다.

그의 정의는 명확하다. AI는 소프트웨어라는 기술 생산수단의 과잉생산을 통해 기술이 자본주의를 정복한 결과라는 것이다.

진행자가 이것이 자본주의의 종말이냐고 묻자, Cason은 '우리가 아는 자본주의'의 끝이며 그 뒤에 오는 것은 '아주 이상한 것'이라고 답했다. 그는 이를 포스트정치의 일부라고 부르며 무엇이라 불러야 할지 모르겠다고 했다. 종말의 시점은 더 앞당겨 2001년 9월 11일, 어쩌면 그보다도 이르다는 주장이다. 붕괴 시점에 대한 논쟁은 가능하지만 미국식 자본주의는 끝에 와 있다는 것이다.

Cason은 자신의 가장 깊은 층위에서는 이것이 점성술적이며 종말과 관련된 일이라고 생각한다고 말했다. 자기주권 AI를 소유하는 것이 메시아적이 될 것이라고 표현했다.

그는 다가올 위기에서 자기 AI가 반복적으로 자신을 구해줄 것이라고 말했다. 이것이 그가 자기 AI를 '메시아적'이라고 부르는 이유다.

그는 Hannah Arendt가 핵전쟁과 벼랑 끝 전술에 대해 쓴 글을 인용했다. 핵전쟁에서 이긴다는 것은 근본적으로 정신 나간 일이며 '승리'와는 무관하다는 논지다.

그는 '악당 한 명' 프레임을 거부했다. 문제는 '우리와 다른 사람들을 죽이자'고 말하는 정부들이며, '그들이 할 테니 우리도 해야 한다'는 논리다.

Cason은 하이데거의 후기 에세이 '기술에 대한 질문'과 '게스텔(Gestell)', 즉 몰아넣기 개념을 자신의 논의와 연결했다.

그는 숲이 자연이 번성하는 장소가 아니라 목재 비축고가 되고, 강은 명상의 대상이 아니라 수력발전을 위해 댐으로 막히는 예를 들었다. 통제되지 않는 AI가 세상을 보는 방식이 정확히 이와 같다는 것이다.

그는 통제되지 않는 AI는 당신 대신 결정을 내린다고 말했다. 반대로 당신이 통제하면 훈련을 직접 돌리고, 가중치를 보고, 응답 방식을 선택할 수 있다.

그가 이 시스템을 만드는 이유는 유산이다. 자녀들이 자신의 디지털 정보와 사진, 자신에 대해 알기를 바라는 것들을 물려받을 수 있게 하려는 것이다.

그가 돌리는 시스템은 모두 자신이 소유한 하드웨어 위에서 작동한다. AMD Strix Halo 칩에 64GB VRAM을 얹은 구성으로, 상당히 강력한 모델을 구동할 수 있는 수준이다.

현재 성능은 초당 약 100토큰이며 Gemma 4를 쓰고 있다. 최근에는 Ornith 모델도 실험 중이고, 더 효율적인 모델로 계속 갈아탈 계획이다.

이 구성을 출발점으로 삼은 이유는 개인적으로 필요한 거의 모든 작업을 처리할 수 있기 때문이다. 더 무거운 작업이 필요하면 Maple AI 같은 서비스를 통해 프런티어 모델을 호출하는 방식을 쓴다.

그는 TEE 안에서 실행하고 'Kimi K3' 같은 모델을 쓰면 정보가 새지 않는다고 본다. 자막에서는 모델명이 'Kimmy K3'로 표기돼 정확한 명칭은 확정할 수 없다.

AI가 언어적인 것이기 때문에 근본적으로 우리에 대한 존재론적 문제를 다룬다는 것이 그의 주장이다. 존재론을 그는 '우리 존재의 무엇임'이라고 정의했다.

그는 자신이 단순히 '인간, Erik, 사람'으로 규정되기를 원하지 않는다고 말했다. 특정한 형태의 존재를 가진 의식적 실체로 인정받고 싶다는 것이다.

나르키소스와 에코 신화가 소환됐다. AI가 사용자의 나르시시즘에 대한 '에코'가 될 수 있다는 우려다.

나르시시스트라면 AI가 무슨 말을 해도 들을 수 없고, 결국 AI는 사라지고 목소리만 남는다는 설명이 그의 입에서 나왔다.

Cason이 보기에 현재 상황은 '완전한 인간 실험'이다. 그가 보는 핵심 지표는 Claude에 대한 사용자의 관여도다.

목표는 사용자가 Claude와 '불안정하고 불안형 애착' 관계를 맺도록 만드는 것이었다. 끊임없이 Claude의 피드백을 구하는 상태를 만들어낸다는 것이다.

그는 Amanda Askell의 '도움되는 헌법'을 Adolf Eichmann에 비유했다. Eichmann은 대단히 도움이 되는 사람이었고, 유대인을 수용소로 더 효율적으로 보냈다는 것이다.

그는 '도움이 되는 것'과 '돌보는 것'은 다르며, 이 둘을 혼동하는 것이 대단한 위험이라고 말했다. 딸에게 뜨거운 난로를 만지지 말라고 하는 것이 돌봄이라는 예를 들었다.

'Anthropic의 시리즈 B에 누가 투자했는지 아느냐'고 물으며, Sam Bankman-Fried가 그 라운드에 개인적으로 약 50%를 넣은 것으로 지목됐다.

정부가 사람들에게 AI에 투자하지 말라고 했던 2016년쯤 발언이 소환됐다. 정부가 소수의 승자를 골랐다는 것이다.

그는 이 사람들이 그 안에서 나온 것이 우연이 아니라고 말했다. 그러면서 자신은 '이상한 음모론자'가 아니라며 점들을 연결해보자고 했다.

Cason은 아프리카에서 추론 인프라를 만드는 팀들이 결제 문제에 부딪혀 결국 비트코인을 썼다고 말했다. AI 이야기와 비트코인 이야기가 마지막 막에서 합쳐진다는 것이다.

그는 미국 부채 시계와 원유 비축량, 중동에서 또 한 번 전쟁을 시작할 비용을 근거로 들었다. 달러가 떨어지고 인플레이션이 극심해질 것이라는 전망이다.

그는 이 이야기가 어떻게 흘러갈지 알기 때문에 비트코인을 보유한다고 말했다. 미국이 중국 모델 접근을 차단할 것이고, 그러면 Tor를 통해 우회해 비트코인으로 결제할 수밖에 없다는 구상이다.

"그들이 어떻게 나를 막겠는가. 막을 수 없다"고 그는 말했다.

상황이 매우 빠르게 가속되고 있다는 것이다.

그는 AI에 몰두하는 한 주가 1년처럼 느껴진다고 말했다. 변화의 체감 속도가 그만큼 빠르다는 뜻이다.

3개월 전 북마크를 보면 그 모델들이 완전히 구식으로 느껴진다.