AI가 25년 된 컴퓨터과학 가설을 뒤집었다는 발표, 검증은 이제 시작

영상은 전등 스위치 퍼즐로 이야기를 시작한다. 1번, 3번, 4번 중 적어도 하나는 켜져야 하고, 2번이 켜져 있으면 5번이나 6번 중 하나는 꺼져야 하는 식으로 조건이 잔뜩 붙은 문제다. 이렇게 조건 하나가 세 개의 스위치까지 걸린 문제를 컴퓨터과학에서는 3SAT라고 부른다.

가장 단순한 방법은 모든 조합을 다 시험해 보는 것이다. 그런데 스위치가 하나 늘 때마다 경우의 수가 두 배가 된다. 스위치가 100개면 1초에 100경 번 따지는 컴퓨터로도 약 4만 년이 걸린다. 학자들은 더 영리한 방법을 찾아 스위치가 하나 늘어날 때 계산 시간이 대략 1.3배씩만 늘어나는 알고리즘도 개발했다.

그런데 컴퓨터과학자 러셀 임팔리아초와 라마무한 파투리는 2001년 논문에서 이 배수를 1에 한없이 가깝게 줄이는 것은 불가능하다는 쪽에 걸었다. 이것이 지수 시간 가설이다. 증명된 적은 없지만 워낙 그럴듯해서 수백 편의 논문이 이 가설을 기둥으로 삼아 왔다.

오픈AI는 바로 이 가설이 틀렸다고 발표했다. 영상에 따르면 스위치가 많아질수록 한 개당 늘어나는 배수가 점점 1에 가까워지는 방법을 찾았다는 것이다. 문제를 여러 부분으로 나눠 계산하고 그 결과들을 활용해 전체 답을 구하는 방식이며, 정답 조합이 있는지뿐 아니라 몇 개나 있는지까지 정확히 센다.

다만 이것이 당장 컴퓨터를 빠르게 만든다는 뜻은 아니다. 비슷한 시기에 독자적으로 같은 결론의 논문을 낸 엔트로픽은, 자신들의 방법이 모든 조합을 다 시험하는 방법보다 빠르다고 확실히 말하려면 스위치가 1 뒤에 0이 1만 개 붙은 수만큼은 있어야 한다고 계산했다. 실용적인 지름길이라기보다는 이론적인 결과인 셈이다.

오픈AI는 이 증명을 수학적 논리에 따라 한 줄 한 줄 확인하는 린이라는 프로그램으로도 검사했다고 밝혔다. 사람의 검토는 지수 시간 가설을 처음 제안한 두 학자와 MIT의 라이언 윌리엄스 교수가 맡았다.

다만 이들은 검토에 참여한다고 해서 이 주장을 보증하는 것은 아니라고 분명히 선을 그었다. 영상은 이것이 컴퓨터과학에서 AI가 25년 된 믿음을 흔들고 있는 지점이라고 짚는다.

물리학 결과는 방향이 반대다. 무언가를 뒤집은 것이 아니라, 물리학자들이 이미 잘 쓰고 있던 이론이 수학적으로도 빈틈없이 성립한다는 증명을 찾았다는 것이다. 대상은 양성자를 이루는 쿼크들을 붙잡아 두는 강한 힘을 설명하는 양자색역학(QCD)이다. 50년 넘게 실험 결과를 정확하게 맞춰 왔지만, 이 이론을 수학적으로 완벽하게 정의할 수 있는지는 오랫동안 아무도 증명하지 못했다.

오픈AI는 QCD가 수학적으로 존재한다는 증명을 얻었다고 발표했고, 그 안에는 100만 달러 상금이 걸린 밀레니엄 난제와 관련된 양밀스 이론의 존재 증명도 포함된다고 한다. 그러나 영상은 AI가 밀레니엄 난제를 풀었다는 것은 틀린 말이라고 지적한다. 난제를 풀려면 가장 낮은 에너지 상태에서 다음 상태로 넘어가는 데 최소한의 에너지가 필요하다는 질량 간극까지 증명해야 하는데, 이번 발표는 존재에 관한 결과만 내놓았기 때문이다.

자료 공개 방식을 둘러싼 논쟁이 이어지고 있다. 검토 그룹이 원본 자료를 바로 공개하지 않고 해설 논문을 쓰기로 한 결정에 대해, 독립 자문 그룹은 린 검사까지 끝났다면 자료를 공개하지 않을 이유가 없다고 맞섰다.

영상은 AI가 물리학 결과를 발표한 뒤 공개 방식을 두고도 여러 목소리가 나오고 있는 상황이라며, 앞으로 지켜봐야 할 대목으로 꼽았다.

수학 영역의 이야기는 100년도 더 된 질문에서 시작된다. 1917년 일본 수학자 카케아 소이치는 바늘 하나를 바닥에 놓고 한 바퀴 삥 돌리려면 바닥이 최소 얼마나 넓어야 하는지 물었다. 1928년에는 그 넓이를 얼마든지 작게 줄일 수 있다는 답이 나왔다. 그러나 넓이를 아무리 줄여도, 모든 방향의 바늘을 품은 모양이 선처럼 얇아질 수는 없다는 것이 바로 카케아 추측이다.

이 추측은 2차원 평면에서 1971년에, 3차원 공간에서는 지난해에야 사람이 증명했다. 3차원을 증명한 두 수학자 중 한 명인 왕홍 교수는 올해 수학계 최고의 상으로 꼽히는 필즈상을 받았다.

오픈AI는 카케아 추측이 4차원, 5차원을 넘어 모든 차원에서 성립한다는 증명을 얻었다고 발표했다. 영상에 따르면 1991년 수학자 크리스토퍼 소그가 제기한 파동에 관한 추측인 국소 평화 추측을 2차원 이상의 모든 공간에서 증명했고, 카케아 추측은 그 결과로 따라 나온다는 것이다. 아주 가는 빗줄기 여러 개로 나눠 보면, 빗줄기들이 여러 방향으로 뻗을 때 얼마나 겹치는가가 바늘 문제와 같은 질문이 된다.

공개 방식도 앞선 결과와 달랐다. 따로 검토 그룹을 정하지 않고 AI가 쓴 59쪽짜리 논문과 린 증명을 발표와 동시에 그대로 공개했다. 누구든 자유롭게 확인해 보라는 것이다. 다만 아직 수학자들의 공식적인 평가는 나오지 않았고, 검증에는 시간이 꽤 걸릴 것으로 보인다.

세 분야에서 굵직한 결과가 한꺼번에 쏟아지자 학계에서는 기대만큼이나 걱정하는 목소리도 나오고 있다. 첫째는 검증에 대한 부담이다. 오픈AI는 10월 6일 수학 원고 700편 넘게를 한꺼번에 공개했는데, 바로 다음 날 한 원고에서 부호 오류가 발견되면서 그 원고와 이를 바탕으로 한 두 편까지 총 세 편을 철회했다. 다른 14편에 대해서도 증명이나 설명을 수정해야 했다. 이에 인간 수학 협회는 대량 공개가 학문적 성과를 보여 주는 방식이라기보다 힘을 과시하는 것이라며, 수학자들에게 오픈AI와의 협업을 중단하라고 촉구했다.

둘째는 공정성 문제다. 앞서 말한 자문 그룹은 이번 발표 바로 전날 기업이 특정 학자를 골라 AI의 연구 결과를 우선적으로 검토하게 하는 방식을 피하라고 권고했다. 일부만 먼저 결과를 볼 수 있다는 불평등과, 학자의 명성이 기업 홍보에 이용될 수 있다는 위험 때문이다. 반대 쪽 논리도 분명하다. 결과가 맞다면 인류의 지식이 그만큼 앞당겨지는 것이고, 오픈AI는 학술적 공로도 요구하지 않겠다고 밝혔다. 엔트로픽이 거의 동시에 같은 결론에 도달했다는 점도 문제가 한 회사에 그치지 않음을 보여 준다.

여러 기업이 새 모델을 프런티어 모델이라 내세우며 수학, 물리학, 컴퓨터과학의 난제를 풀어 보이고 있다. 그러나 결국 이를 사람이 검증해야 하고, 트래픽이 너무 많이 몰리면서 검증 단계에 허들이 생긴 상황이라고 영상은 설명한다.

린 같은 검사 도구가 있어도 애초에 문제를 제대로 옮겨 적었는지는 사람이 확인해야 한다. 시험에서 채점기가 답안지를 완벽하게 채점하더라도 문제지나 채점 기준에 오류가 없는지는 결국 사람이 따져야 하는 것과 같다. 오픈AI도 분야마다 다른 공개 방식을 시험하고 있으며, 어느 쪽이 나은지는 아직 모른다고 밝혔다.

스위치 퍼즐, 양성자 속 쿼크, 바늘 돌리기는 겉보기에 전혀 다른 문제지만, 이번 발표가 던진 질문은 하나로 모인다. AI가 내놓은 증명을 언제 맞다고 받아들일 수 있을까, 그리고 그렇게 맞다고 검증하는 사람이 어떤 사람이어야 우리가 거기에 권위를 부여할 수 있을까 하는 것이다.

이 문제는 지금 당장 일상과 무관해 보일 수 있다. 그러나 AI가 난제 해결에 쓰인 기술을 신약 후보 발굴이나 의료 AI, 또는 사회적 갈등이 큰 여러 문제에 도입한다면 우리 생활과 가까운 곳에서도 중요해질 수 있다. AI가 내놓은 답을 근거로 믿을지, 그리고 어떻게 검증할지를 따져야 한다는 점은 모든 난제에서 같다.