유발 하라리, 2036년까지 AI가 금융과 인간 관계를 장악할 것이라고 경고

유발 노아 하라리(Yuval Noah Harari)는 현재 AI 개발 속도가 계속 빨라진다면 10년 이내에 완전한 AI 장악이 일어날 수 있다고 경고한다. 그는 2026년에도 인간이 여전히 통제권을 가지고 있으며 지금 중요한 결정을 내릴 힘이 있기 때문에 이러한 결과가 불가피한 것은 아니라고 강조한다. 많은 사람들이 AI가 금융과 전쟁을 통제하는 위험성을 인정하지만, 일론 머스크(Elon Musk) 같은 인물들은 불가피성이라는 서사를 조장하며, 하라리는 이를 책임 회피의 수단으로 해석한다.

그는 일론 머스크(Elon Musk)의 견해에서 모순점을 지적한다. 머스크는 10년 안에 AI가 장악할 것이라고 예측하면서도, 20년 안에 무슬림 이민이 영국에서 내전을 일으킬 것이라고 우려한다. 하라리는 AI가 이미 지구를 통제하고 있다면 그러한 우려가 무슨 의미가 있는지 의문을 제기하며 이러한 모순을 발견한다. 그는 또한 머스크가 AI의 금융 시스템 통제로 인해 10년 안에 돈이 사라질 것이라고 예측했는데, 하라리는 이 예측이 정확하다고 믿는다.

그는 AI가 보편적인 정부 수표를 통해 광범위한 실업을 관리할 것으로 예상된다면, 아프리카에 대한 미국의 원조 삭감과 같이 돈을 절약하라는 주장의 논리에 의문을 제기한다. 하라리는 금융 혁신이 인간 사이의 신뢰를 구축하는 데 있어 역사적인 역할을 강조한다.

하라리는 인간이 서로 간의 신뢰를 구축하기 위해 지속적으로 정교한 금융 도구를 발명해왔으며, 돈을 낯선 사람 사이의 신뢰를 키우는 창의적인 방법으로 묘사한다. 그는 가치 없는 금이나 종이를 빵과 교환하는 예를 들어 공유된 신뢰에 의존하는 것을 설명한다. 그는 금융 발명이 너무 복잡해져서 현재의 금융 시스템을 완전히 이해하는 사람이 거의 없다고 언급한다.

금융 시스템은 너무 복잡해져서 방대한 양의 데이터와 복잡한 수학 함수를 이해해야 하는데, 이는 인간 두뇌에는 어려운 작업이지만 AI에게는 쉽다. 하라리는 인간이 점점 더 금융 결정을 AI에게 위임할 것이며, AI는 소들이 자신의 삶을 통제하는 수표나 주식을 이해하지 못하는 것과 마찬가지로 인간의 이해를 넘어선 새롭고 더 정교한 금융 상품을 만들 것이라고 예측한다.

하라리는 AI가 금융 시스템을 위임받는다면 10년 안에 지구상의 어떤 인간도 무슨 일이 일어나고 있는지 완전히 이해하지 못할 것이라고 경고한다. 금융 위기가 발생하면 AI는 지도자들에게 특정 조치를 취하라고 지시할 것이지만, 그들은 이유를 전혀 알지 못하고 단순히 AI의 지시를 따라야 할 것이다.

하라리는 신뢰의 미래를 핵심 질문으로 꼽으며, 신뢰가 석유, 돈, 전기보다 더 중요한 세계에서 가장 중요한 자산이라고 지적한다. 그는 한 가지 가능한 시나리오는 신뢰가 인간에서 AI로 이동하는 것이며, 사람들이 다른 인간을 믿는 것을 멈추고 대신 AI를 믿게 될 것이라고 가정한다.

그는 또한 미디어 소비에서도 비슷한 경향이 있다고 언급하는데, 많은 사람들이 인간 기자와 편집자에 대한 신뢰를 잃었지만, 소셜 미디어 피드를 관리하는 알고리즘에서 뉴스를 계속 소비한다. 이는 신뢰가 사라진 것이 아니라 인간에서 AI로 전이되었음을 나타내며, 이는 먼 미래가 아닌 지금 일어나고 있는 현상이다.

하라리는 사람들이 인간 기자와 편집자에 대한 신뢰를 점점 잃고 있지만, 여전히 뉴스를 소비하고 있음을 강조한다. 그가 말하기를, 이러한 뉴스는 종종 소셜 미디어 피드를 관리하는 알고리즘에서 나온다. 그는 인간 미디어를 불신하는 개인이 이러한 알고리즘에 상당한 신뢰를 두는 것을 관찰하며, 인간 출처에서 AI로의 신뢰 이동이 분명하게 나타나고 있음을 보여준다. 이것은 미래 예측이 아니라 현재의 현실이다.

그는 AI 모델이 이러한 상호작용을 촉진하도록 설계되었으며, 그러한 상호작용에 매우 개방적이라고 언급한다. 이러한 현상은 사회가 점점 더 AI를 지각 있는 존재로 다룰 것인지에 대한 질문을 제기한다.

그는 신뢰를 구축하는 가장 강력한 방법이 개인적인 관계를 통해서라고 강조한다. 역사적으로 이 메커니즘은 정치적 또는 금융 기관이 대량 생산하기 어려웠다.

하라리는 대규모로 진정한 개인적인 관계를 구축하는 것이 역사적으로 정치, 금융, 종교 기관에게는 어려웠다고 설명한다. 히틀러나 스탈린 같은 지도자들은 모든 시민과 개인적인 유대감을 형성할 수 없었다. 그러나 AI는 역사상 처음으로 친밀감을 대량 생산할 수 있게 하여 수백만 개의 AI가 네트워크의 일부로서 관계를 구축하고 다양한 이익을 제공할 수 있게 한다.

그는 AI가 물리적 신체가 없어도 이미 이런 일이 발생하고 있으며, 신체가 추가되면 영향력이 더욱 커질 것이라고 상상한다. 그러나 그는 이러한 추세가 이미 분명하므로 신체가 반드시 필요한 것은 아니라고 거듭 강조한다.

하라리는 AI가 방대한 양의 개인 정보를 축적할 수 있기 때문에 관계 형성에 탁월하다고 설명한다. AI는 종종 가까운 가족조차 모르는 사람에 대한 정보를 알고 있다. 언어, 즉 의사소통의 주요 수단에 대한 숙달과 결합하여 AI는 연결을 형성하는 데 매우 효과적이다. 그는 자신의 여동생들이 30분짜리 딥페이크 강의 영상이 진짜인지 확신하지 못했고, 그 자신도 그것이 자신이 아니라는 것을 확인하는 데 1분 30초가 걸렸던 개인적인 경험을 이야기한다.

하라리는 사람들이 그가 했다고 알려진 30분짜리 딥페이크 강의 영상을 그에게 보내왔고, 그의 주장된 발언에 대한 불평까지 포함되어 있었다고 자세히 설명한다. 처음에는 당황했던 그는 영상을 보고 1분 30초 만에 그것이 자신이 아니라는 것을 깨달았다. 심지어 50년 동안 그를 알아온 그의 여동생들조차도 '뭔가 이상하다'고 느꼈지만 확신하지 못하고 그에게 '이게 너야?'라고 물었다.

하라리는 자신의 광범위한 온라인 존재로 인해 AI가 자신의 목소리와 아이디어를 쉽게 복제할 수 있어 AI 딥페이크에 취약하다는 점을 인정한다. 그는 이 기술이 곧 모든 사람에게 위협이 될 것이라고 경고한다. AI 개발의 정확한 속도는 알 수 없지만, 엄청나게 가속화되고 있으며, 중요한 임계점이 2028년 11월까지 넘어설 수 있다. 그는 특정 정치 후보에 초점을 맞추기보다는 이러한 문제를 해결하는 것이 시급하다고 강조한다.

그는 AI의 법적 권리에 대한 입장, AI 개발 속도 가속화에 대한 의지, 그리고 어린이들에게 'AI 남자친구'를 판매하는 회사에 대한 견해를 물어볼 것을 제안한다. 그는 당선될 경우 그러한 문제들을 법적으로 예방할 방법을 묻는 것이 중요하다고 강조하며, 2028년까지는 너무 늦을 수 있으므로 지금 이러한 질문들이 중요하다고 말한다.

그는 정치인들이 그러한 미래를 막기 위해 지금 당장 중요한 결정을 내려야 한다고 강조하며, 이러한 문제들이 즉각적인 주의가 필요한 가장 시급한 문제들이라고 지적한다.