AI, 수학 난제 4천 개 해결… 학계 혼란

이 과정에서 AI 모델은 의미 있는 결과물 372개 묶음을 도출했으며, 문제 하나를 해결하는 데 평균 3시간 정도가 소요되었다고 알려졌다.

여기에는 리만 가설, 준 리만 가설, 원주율 파이 관련 난제 등 다양한 분야의 문제들이 포함되었다고 항성 연구원은 밝혔다.

김상현 교수는 AI의 진정한 위협은 문제 해결의 규모보다는 그 속도에 있다고 지적했다.

인간이 10년에서 30년간 자신의 모든 역량을 쏟아부어야 겨우 풀 만한 난제를 AI는 단시간에 해결했으며, AI의 환각(할루시네이션) 현상도 현저히 줄어드는 등 지식 습득과 사고 속도 면에서 인간의 한계를 뛰어넘는 모습을 보였다.

김상현 교수에 따르면, 수학에는 수많은 문제가 있으며 이들은 수학 발전을 견인하는 중요한 역할을 한다.

수학은 논리적으로 말이 되면 얼마든지 만들 수 있지만, 그중 인류에게 도움이 되거나 흥미로운 것으로 한정되며, 푸앙카레 추측이 위상수학 분야를 100년간 이끌었듯이 난제는 수학적 연구를 활성화하고 관심을 집중시키는 원동력이 된다.

전체 400개 난제 중 약 30개 정도가 풀리기 전 필즈상급 난제로 예상되었으나, 김상현 교수는 실제 필즈상급으로 평가될 만한 것은 10% 정도인 3~4건에 불과하다고 분석했다.

많은 결과가 의외로 쉽게 풀려 필즈상급 난제로 보기 어려우며, 오픈AI 측도 결과의 정답 여부를 단정하지 않아 추가적인 검증이 필요하다.

리만 가설은 모든 영점이 x=1/2 수직선 위에 있어야 한다는 주장이었고, 준 리만 가설은 수직선 밖 영역에 영점이 없음을 주장하며 소수 이론의 핵심 난제 중 하나로 꼽힌다.

AI 결과는 컴퓨터 코드로 엄밀하게 증명하는 형식화(Lean) 과정을 거쳤음에도 불구하고 수학계 내에서는 여전히 의구심이 제기되고 있다.

김상현 교수는 코드로 바꾸는 과정에서 문제의 성격이 변질되거나 오류가 발생해 쉬운 문제로 풀렸을 가능성에 대한 지적과 논쟁이 활발하게 이루어지고 있다고 설명했다.

수학계는 오픈AI의 722편 논문 공개를 학문적 성취보다는 자본력에 기반한 '자본의 폭력'으로 인식하고 있다고 김상현 교수는 지적했다.

일부 결과만 린으로 검증되었고 나머지 논문에는 오류 가능성이 있음에도 불구하고, 막강한 자본력으로 대규모 결과를 쏟아내는 행위가 학문적 기여보다는 힘을 과시하는 것으로 비춰진다는 평가다.

2026년 10월 6일, 인간 중심 수학 협회는 오픈AI의 대규모 논문 공개에 대해 성명서를 발표하며 비판의 목소리를 냈다.

성명서는 "700개가 넘는 파일을 한꺼번에 공개하는 것은 학문적 성취를 보여주는 행위가 아니라 힘을 과시하는 행위"라고 명시했다.

협회는 AI 기업이 자문 그룹의 전제를 무시하고 학문 규범을 훼손했다고 비판하며, 수학자들이 오픈AI와의 협업을 중단하고 인간의 이해를 중심에 두는 과학의 비전으로 돌아갈 것을 촉구했다.

수학은 세상을 이해하기 위해 추상화 과정을 반복하며 쌓아 올린 지식 체계이며, 이러한 수학을 기계에 외주 주는 것이 아닌 인간의 사고방식으로 보존해야 한다는 입장을 내세웠다.

이 문제는 매년 반대 방향의 논문이 나올 정도로 예민하고 어려운 문제였으며, AI의 증명 데이터를 압축 과정을 거쳐 한 페이지 증명으로 도출해냈다.

김상현 교수는 AI의 등장을 외계인의 등장에 비유하며, 수학계가 5천 년 만에 처음으로 과학 혁명을 겪고 있는 것일 수 있다고 진단했다.

이는 토마스 쿤의 '과학 혁명의 구조'를 인용하며 수학계가 새로운 규범과 패러다임을 도입할 가능성을 시사하는 대목이다.

과거 19세기 물리학자와 화학자들이 정밀 측정 기술을 중요한 소양으로 여겼듯이, 현대 과학자들은 데이터 큐레이터의 역할에 가까워지고 있다고 김상현 교수는 설명했다.

이러한 변화는 수학자의 소양 역시 데이터 관리 및 활용 능력 중심으로 변화할 것이라는 전망을 낳고 있다.

대중이 피상적인 AI 발표만 보고 수학의 본질을 오해하는 상황을 방지하고, 국가 자본으로 연구하는 수학자로서의 책무를 다해야 한다고 강조했다.

컴퓨터 과학자이자 수학자였던 다익스트라가 1975년 쓴 가상의 글 '수학 주식회사'가 현실화되고 있다는 평가가 나왔다.

이 글은 고성능 AI가 수학 문제를 독점하고 대학 교수들의 연구를 대신 풀며 학회 지원 등으로 학계를 통제하려는 시나리오를 담고 있다.

오픈AI가 학회를 지원하고 AI 모델을 배포하는 전략, 그리고 수학 교육까지 자사 도구에 종속시키려는 미래상은 다익스트라의 예견과 놀라울 정도로 흡사하다.

수학자 테렌스 타오는 AI 도구를 책임 있게 사용하여 전통적인 난제 해답에서 이어지는 가치 있는 후속 활동 전체를 지원해야 한다고 제안했다.

그는 '수학 1.0'이 난제 해결에 집중했지만, AI가 단순히 문제만 풀고 후속 연구나 공동체 형성에는 기여하지 못하는 현재 상황을 지적했다.

테렌스 타오는 단순한 문제 해결보다 이해, 설명, 그리고 공동체 형성을 중시하는 '수학 2.0'으로 나아가야 한다고 강조했으며, AI가 해결한 난제가 오히려 추가 연구 시도를 오염시키고 수학계를 덜 비옥하게 만들 수 있다고 경고했다.

김상현 교수는 기존의 '업적 중심' 평가 방식에서 벗어나 교육과 대중화의 중요성을 강조했다.

수학 연구의 중요성과 의미를 납세자에게 전달하는 것에도 연구 자체만큼이나 가치를 부여해야 하며, 이는 20년 전 수학자 썰슨이 연구 성과 공유와 교육의 중요성을 제기했던 것과 일맥상통한다.

수학계는 지난 200년간 '누가 먼저 문제를 풀었는가'에 초점을 맞춘 선점 위주의 평가 체계를 유지하며 자부심을 쌓아왔다.

그러나 AI로 인해 누가 풀었는지 모호한 결과물이 쏟아질 경우, 이러한 기존 평가 방식은 한계에 직면하게 되며 교육과 생각 공유에 대한 합리적인 보상 체계를 마련하는 것이 중요한 과제로 떠올랐다.

자신의 생각을 AI에 외주 주는 방식은 심각한 뇌 기능의 퇴화를 초래할 수 있으므로, AI를 사고의 깊이를 키우는 도구로 활용해야 한다고 강조했다.

궁극적으로 수학자는 정답을 찾는 기술자가 아니라 끊임없이 질문을 던지는 사람으로 남아야 한다고 덧붙였다.