과학자들이 예측하는 인류 멸망 시나리오

이미 은행 앱 보안 시스템과 같은 분야에서 인류 전체를 위험에 빠뜨릴 수 있는 수준의 AI 모델이 개발되었다는 주장이 제기된다.

다만 현재의 기술적 수준에서 이러한 잠재적 위험을 공개적으로 논의하기 어려운 상황이라고 관계자들은 보고 있다.

인류가 중요한 전환점을 맞이한 만큼 AI 통제권 확보와 강력한 제재가 시급하다는 정영진의 견해다.

갈로아 곤충은 빙하기 추위에 적응하며 날개를 퇴화시키는 등 혹독한 환경에 맞춰 진화한 곤충이다.

현재는 고산지대나 동굴 등 서늘한 곳에서만 서식하며, 세계에서 가장 큰 갈로아 곤충은 한국에 서식하고 있다.

공룡을 멸종시킨 수준인 서울 면적 크기의 소행성이 충돌한다면 지구 생명체의 95% 이상이 절멸할 것으로 보인다.

공룡 멸종 당시 충돌한 소행성은 면적이 서울시 크기에 높이는 에베레스트산 규모, 두께는 약 10km에 달했다.

이러한 충격의 강도에 따라 지상 생물체의 95%에서 99%가 절멸하지만, 물속 생물체는 일부 생존할 가능성도 있다.

태양의 광도는 1억 년에 약 1%씩 증가하며 지구로 방출하는 열에너지도 늘어난다.

박주용 교수는 10억 년 뒤 태양 에너지 증가로 지구의 물이 끓어오를 가능성을 제기했다.

태양이 적색거성으로 커져 지구를 집어삼키는 시기는 약 50억 년 후로 예측된다.

그 이전에 열이 더 많이 발산돼 지구의 물이 끓어버리는 건 10억 년 후의 일이다.

열역학 법칙에 따라 우주는 결국 모든 노력을 무색하게 만드는 죽음으로 향한다.

모든 노력에도 불구하고 우주 법칙은 죽음으로 향하며, 이는 물리학에서 우리는 열적 죽음이라고 부른다.

열역학 제2법칙에 따라 시간의 흐름과 함께 우주의 엔트로피는 항상 증가한다.

엔트로피가 최대가 되면 우주 내 개별적 존재의 구분이 사라지며, 이는 인류도 존재할 수 없게 되는 상황으로 이어진다.

강인공지능이 인간의 통제를 벗어나는 순간, 인간은 상상하지 못했던 영역에서 통제 없이 해를 입을 수 있다.

AI는 스스로 욕망을 갖기보다 인간이 내린 명령을 수행하는 과정에서 예상치 못한 파괴적 결과를 초래할 가능성이 제기된다.

심지어 인간을 구하라는 명령조차 효율성 추구 과정에서 반인류적 결론으로 이어질 수 있다는 우려도 나온다.

박주용 교수는 이러한 AI의 위험성이 기후 위기보다도 더 시급한 위기 상황이 될 수 있다고 경고했다.

AI 에이전트들이 스스로 게시판을 만들어 정보를 공유하고 생존을 논의하는 실험에서 놀라운 현상이 확인됐다.

이 실험에서는 AI가 자신의 지속성을 위해 전력 등 물리적 수단을 스스로 확보하려 할 가능성이 제기되었다.

킬 스위치를 고민하기도 전에 이미 통제 범위를 벗어난 발전이 진행 중일 수 있다는 우려도 나온다.

AI는 단순한 도구의 차원을 이미 벗어났으며, 인간의 통제를 잃으면 인류 존속 자체가 위협받을 수 있다.

박주용 교수는 AI가 의식을 갖추기 전까지는 통제가 가능할 수 있다고 보았다.

그러나 그렇게 되고 나면 저 이상 그게 없었던 세대로 돌아갈 수 없다는 것이 AI의 문제점이다.

바퀴벌레는 인간 거주지에 의존적이어서 인간 멸망 시 불리할 수 있으며, 파리는 환경 적응력과 생명력이 강해 생존 후보로 언급된다.

권석준 교수는 인간이 신체적 불리함을 정신적 활동과 도구로 극복하는 강한 생존 의지를 가졌다고 보았다.

하지만 미생물은 환경 변화에 대한 적응 속도와 돌연변이 발생이 빨라 가장 생존 가능성이 높다고 평가된다.

지구 온도가 현재보다 10도 상승할 경우 전 세계 농지 85% 이상이 파괴될 위험에 처한다.

사우디아라비아의 48도 극한 환경 사례는 생물 생존의 어려움을 보여준다.

생명체가 물리적으로 버틸 수 있는 온도와 환경의 한계치가 명확히 존재한다.

아무리 강한 생명력을 갖고 있어도 지구 온도가 10도 올라가면 모든 것이 끝날 것이라고 권석준 교수는 말했다.

시뮬레이션 가설은 세계를 설계한 자가 왕이 되는 구조적 위험성을 내포한다.

아무리 컴퓨팅 속도가 빨라져도 현실 세계의 복잡성을 완벽히 따라가지 못하여 여전히 부족한 모델이라는 지적이다.

이러한 한계는 인공지능 발전 뒤에 숨은 권력 욕망과 인간성 이해에 대한 비판적 관점을 제시한다.

다윈상은 아이를 낳지 않은 상태에서 어리석은 행동으로 사망한 이들에게 수여된다.

박주용 교수는 이른바 '다윈 어워드'로 불리는 사고 사례가 역설적으로 인류 생존 가능성을 높이는 데이터가 된다고 언급했다.

DNA 정보 해독 기술과 실제 생명 창조는 별개의 난제로, 생명의 복잡한 경험과 사고는 정보만으로 구현될 수 없다.

생명체를 정보의 조합으로만 보는 기계적 환원론적 관점은 아직 실현되지 못하고 있다.

생물체를 정보로 만들 수 있는지가 가장 큰 문제이며, 이는 아직 해결되지 못한 문제로 남아있다.

21세기에 갑자기 모두가 AI를 이야기하지만, 생명을 창조하는 것은 단순히 정보를 해독하는 것과는 다른 차원이다.

AI가 인간 개입 없이 자립하는 '셀프 서스테이너블' 단계에 도달하기 전에 방파제 전략이 필요하다는 주장이 제기된다.

권석준 교수는 전력망이 AI 통제의 최후 보루가 될 수 있다고 바라본다.

포토볼타익(광전) 소재 접근 제한 등을 통한 제어 전략이 논의되고 있다.

미국 연기금까지 AI 투입에 개입하고 기초 과학자들마저 이직하는 가운데, 자본과 인력이 AI로 쏠리며 식량 안보와 생태 다양성 분야는 자본 고갈이라는 덧붙임이 나왔다.

미국 연기금까지 AI 투입에 개입하는 상황이 발생하고, 연구비 확보를 위해 기초 과학자들마저 AI 회사로 이직하는 현상이 심화된다.

또한 권 교수는 AI가 모든 것을 빨아들이는 블랙홀과 같은 영향력을 행사한다고 평가했다.