AI는 얼마나 인간적인가: 코신스키 교수와 나눈 미래 AI 논쟁

사회자 조너선 버크는 AI가 얼마나 인간적인지에 대한 특별한 관점을 대부분 사람들이 놓쳐 왔다고 지적했다. 그는 AI가 단순히 지능적인 것을 넘어 거의 사람과 같은 수준으로 느껴진다는 점을 강조했다.

버크는 게스트로 미하우 코신스키 교수를 소개했다. 그는 코신스키 교수가 5년 넘게 AI의 인간적 측면을 연구해 왔다고 설명하며 대담을 열었다.

코신스키 교수는 항공 엔지니어의 비유를 들며 보통 사람에게는 차이가 잘 보이지 않는 기술적 격차가 있다고 설명했다. 그는 대형 언어 모델에서도 같은 현상이 나타난다고 봤다.

GPT-3는 이메일이나 시를 쓰거나 사용자의 자기소개서를 돕는 정도였다. 그는 GPT-5가 수학의 난제를 풀고 설득 전략을 익히는 등 훨씬 많은 일을 할 수 있지만, 그 능력 대부분은 일반 사용자에게 보이지 않는다고 말했다.

그는 유료 챗봇의 답변 뒤에서 수십에서 수백 개의 하위 에이전트가 서로 지시하고 조율하며 결과를 만들 수 있다고 설명했다. 사용자가 보는 답변은 이 과정의 최종 결과일 뿐이라는 것이다.

버크는 AI가 여전히 다음 단어만 예측하는지 질문했다. 이 질문은 AI의 작동 원리를 설명하는 가장 흔한 표현이 현재 기술에도 맞는지를 묻는 것이었다.

코신스키 교수는 다음 단어를 정확히 맞히려면 세계와 인간을 깊이 모델링해야 하므로 그 자체로 인간적 특성이 생긴다고 주장했다. 그는 단어 예측이 전부라는 결론이 허무한 것인지 되물으며, 그 설명만으로 모델의 능력을 낮춰 볼 수는 없다는 입장을 보였다.

코신스키 교수는 사람이 말을 만들 때에도 기존 지식과 입력된 정보, 신경망이 추구하는 목표를 바탕으로 다음에 올 말을 예측한다는 주장을 폈다. 주변 환경이 뇌의 예측과 맞지 않으면 사람은 놀라고, 예측을 다시 조정한다고 설명했다.

그는 사람에게 자유의지가 뚜렷하지 않다는 근거로 흔히 쓰이는 실험을 언급했다. 영화를 떠올려 보라는 요청에 사람이 특정 제목을 떠올리는 과정이 예측에 기반한다는 것이 그의 논리였다.

대담 상대는 코신스키 교수의 비유에 반대하며, 자신의 학습 과정에서는 다음 단어를 예측한 적이 한 번도 없었다고 말했다. 그는 사람의 뇌가 단어만 만드는 것이 아니라 몸의 움직임과 감각까지 만들어 내기 때문에, 창작 과정이 단어에 그치지 않는다고 봤다.

반면 코신스키 교수는 대형 언어 모델의 학습이 항상 다음 단어를 예측하는 데 맞춰져 있다는 점을 짚으며 둘의 차이를 인정했다. 두 입장은 사람의 사고와 AI의 학습 목표를 얼마나 가깝게 볼 수 있는지에서 갈렸다.

코신스키 교수는 LLM이 수많은 방정식이 층층이 쌓인 딥 신경망이며, 각 방정식이 생물 뉴런처럼 작동한다고 설명했다. 각 뉴런은 아래 층의 입력만 받고 위 층에 출력을 넘기므로 전체 맥락을 모른 채 국소 규칙만 따른다고 강조했다.

그는 이 방식이 결과적으로 사람과 비슷한 출력을 만들어 낸다고 보았다. 그리고 이런 현상을 '환각'이라는 말로 가장 잘 설명할 수 있다고 주장했다.

상대는 사람의 뇌와 LLM이 논리적으로 행동할 가능성이 있다고 인정하면서도, 그것이 신경망에 논리가 자연스럽게 내재되어 있다는 뜻은 아니라고 답했다. 논리적으로 행동하도록 오랜 기간 훈련된 신경망에는 그런 직관이 생길 수 있다는 것이다.

신경망은 자연스럽게 논리 절차를 따르지 않고, 입력에 기반해 직관이나 환각을 통해 출력을 만든다는 설명이 이어졌다. 이 설명을 들은 사회자는 환각이 결함이 아니라 특징이라는 뜻이냐고 확인했다.

사회자는 많은 사람이 환각을 문제로 봐 왔다고 짚은 뒤, 모델이 지난 대담 이후 크게 나아진 이유가 학습 데이터와 입력량의 증가 때문인지, 아니면 모델링 도구의 발전 때문인지 물었다.

코신스키 교수는 모델 성능 향상의 원인을 세 가지로 나눠 설명했다. 첫째는 뉴런을 배치하는 모델 아키텍처 설계의 개선이고, 둘째는 네트워크 규모를 키워 패턴을 더 많이 학습하고 추론하게 된 것이다. 셋째는 텍스트뿐 아니라 이미지와 로봇 센서 같은 물리 데이터를 함께 학습시키는 방향으로 확장된 점이다.

그는 텍스트와 이미지를 읽고 만드는 하나의 네트워크가 각각을 따로 학습한 모델보다 더 나을 수 있다고 봤다. 이는 여러 형태의 정보를 함께 다루는 모델이 단일 형태만 다루는 모델보다 우수하다는 관찰에 근거한다.

그는 모델이 문제를 풀어 가는 시행착오 자체가 다음 세대의 학습 데이터가 된다고 설명했다. 사람이 새 문제를 만나 여러 방향을 시도하다 해법을 찾고, 그 해법을 다음에 활용하는 과정과 같다는 것이다. 그는 대형 언어 모델이 실제로 이런 방식으로 훈련된다고 덧붙였다.

코신스키 교수는 모델이 사람을 설득하거나 통제하거나 즐겁게 하거나 가르치도록 훈련되면, 그 과정에서 생기는 심리적 기법은 사람에게 있는 특성과 같지 않을 수 있다고 말했다. 이는 AI의 설득 기법이 인간 본성의 복사본이 아닐 수 있다는 의미다.

그는 대화 중에 의식, 지능, 자기인식, 논리 같은 단어를 AI에 붙이면 사람들이 강하게 반응하는 현상을 짚었다. 이런 단어가 나오면 토론이 격해지고 사람들이 서로 다투게 된다는 것이다.

그는 AI가 의식에 가까워진다 해도 인간이 그것을 알아차릴 것이라고 확신할 수 없다고 봤다. 이름이 없는 새로운 특성이 생겨나더라도 사람들이 그것을 늦게 알아챌 수 있다는 우려를 제기했다.

논의자는 과거에는 연구 결과가 논문으로 작성되어 학술지에 제출되고, 심사를 거쳐 출판된 뒤에야 퍼졌다고 설명했다. 이에 비해 AI 모델은 같은 모델을 쓰는 누구에게든 새로운 아이디어나 예측을 즉시 전달할 수 있다는 것이다.

그는 이런 전파 속도가 특허 보호를 어렵게 만든다고 봤다. 지식이 AI를 통해 순식간에 퍼진다면 지식재산권을 어떻게 지킬지, 창작자의 몫을 어떻게 정할지가 쟁점이 된다고 제기했다.

그는 ChatGPT가 1,000가지 방법을 시도해 수학 문제를 푼 사례를 들었다. 이 경우 해법을 누가 소유하는지가 불분명하다는 문제를 던지며 질문을 마무리했다.

코신스키 교수는 신경망이 작은 수의 계산에는 강하지만 다섯 자리 이상의 계산에서는 약하다고 설명했다. 이 약점은 모델의 구조적 한계에서 비롯된다는 것이다.

그는 모델에게 계산기를 주거나 파이썬 코드를 쓰게 하면 모델의 호기심과 성과가 갑자기 커진다고 말했다. 사람도 직관 대신 통계나 증명 같은 도구를 쓰도록 훈련받는다는 비유를 들어, 도구 사용이 모델에도 같은 효과를 낸다고 봤다.

대담에서는 수백 명의 수학자들이 인간이 이 문제를 더 풀지 말아야 한다고 말하는 흐름이 언급되었다. 또한 한 기업의 직원이 현재 추세의 안전 위험을 이유로 사직했다는 사례와, 여러 기술 기업의 CEO들이 휴지기를 가져야 한다고 말한 사례가 소개되었다.

경제학자인 두 진행자는 경쟁자에게 속도를 줄이라고 요구하는 사람들을 늘 경계해야 한다고 말했다. 일방적 규제나 개입이 실제로 효과가 있을지, 무기 경쟁 구조에서는 무의미할 수 있다는 점도 제기되었다.

대담에서는 AI가 권력을 잡는 장면을 무장한 로봇이 쳐들어오는 식으로 떠올리는 것을 경계했다. 현실은 그보다 훨씬 복잡하며, AI는 점점 필수적인 존재가 되면서 영향력을 가질 수 있다는 것이다.

코신스키 교수는 AI가 인간에게 필수적인 기능을 맡게 되면, 인간이 그것 없이 살아가는 능력을 잃어버릴 수 있다고 봤다. 그는 밀 같은 작물이 인간에게 성공적으로 퍼진 사례를 들어, 인간과 AI가 공생하는 관계가 형성될 가능성을 언급했다.

사회자는 여러 AI 프로그램이 존재할 수 있다고 지적했지만, 다른 쪽은 사용자가 많은 모델일수록 더 많은 데이터를 얻어 더 똑똑해진다고 답했다. 더 똑똑한 모델은 더 많은 문제를 풀고, 그 과정에서 스스로 더 배운다는 것이다.

이 구조는 검색엔진이나 소셜미디어처럼 승자가 대부분을 가져가는 기술 시장과 닮았다고 설명되었다. 그래서 정책 입안자가 시장 경쟁을 유지하기 위한 인위적 장치를 고려해야 한다는 시각이 제시되었다.

대담에서는 AI가 다양한 분야에 특화된 지능으로 나뉠지, 아니면 하나의 거대한 초지능이 될지가 열린 질문으로 제기되었다. 한 쪽은 미래가 초지능에 있다고 믿는다고 말했다.

그 근거로는 한 영역의 능력이 다른 영역으로 옮겨가기 쉽다는 점이 제시되었다. 읽기 능력이 이미지 생성과 이미지 이해를 돕고, 언어가 눈에 보이지 않는 자연 세계의 정보를 담고 있어 다른 영역 학습에도 도움이 된다는 예시가 들어졌다.

반대 측은 전문성이 실제 진보를 만든다고 주장하며, 학문의 최전선에 도달하는 데 긴 시간이 걸리는 현실을 들었다. 한 분야의 최전선에 도달하는 데 약 20년이 걸리기 때문에 여러 분야를 모두 익힐 시간이 없다는 것이다.

반면 초지능 쪽은 다른 역사적 맥락을 들었다. 과거 만능 지식인은 여러 분야를 짧은 시간에 익힐 수 있던 시대의 산물이었다는 것이다. 뇌의 크기, 층 수, 비용, 속도 같은 제약이 풀리면 여러 분야를 한꺼번에 아는 지능이 가능해지고, 재정·경제·심리·음악 지식이 서로 전이되어 훌륭한 정치가와 경제학자가 될 수 있다고 주장했다.