AI, 수학 난제 해답 찾았지만…

지난 9월 초 오픈AI는 수학 분야의 난제 중 하나인 나비에-스토크스 방정식의 일부 증명을 AI로 해결했다고 발표했다.

이는 2000년 미국 클레이 연구소가 인류의 7대 미해결 수학 문제로 선정하고 각각 100만 달러의 상금을 내건 '밀레니엄 난제' 중 하나다.

지금까지 이 7대 난제 중 유일하게 풀린 문제는 '푸앵카레 추측'뿐이었다.

날씨 예보와 항공기·자동차 설계, 의료 혈류 분석 등 공학 전반에 활용되는 나비에-스토크스 방정식은 1822년 나비에가 기초를 마련하고 1845년 스토크스가 현재 형태로 정립했다.

날씨 예보, 항공기 및 자동차 설계, 의료 분야의 혈류 분석 등 공학 전반에 걸쳐 광범위하게 활용되는 중요한 이론이다.

나비에-스토크스 방정식은 비선형 편미분 방정식의 특성상 속도와 속도의 기울기가 같은 항을 포함하여 손으로 깔끔하게 해를 구하는 것이 거의 불가능하다.

수학계의 미해결 난제인 '해의 존재성 및 특이점' 문제는 이 방정식의 해가 어떤 상황에서도 무한대로 발산하지 않고 항상 존재하는지에 대한 완전한 증명이 이루어지지 않은 상태다.

오픈AI는 100페이지 분량의 증명 보고서를 공개하며, 매끄럽게 흐르던 유체가 특정 상황에서 중심부 속도가 무한대로 커지는 '특이점'을 만들 수 있다는 내용을 증명했다.

이는 수학적 모델의 안정성과 한계를 논증한 결과로, 기존 유체 역학 이론의 불완전성을 지적하는 함의를 가진다.

AI 증명은 특수한 조건에서 기존 유체 계산식이 무너지는 지점을 확인했으며, 이는 날씨 예측 등 기존 물리 법칙의 불완전성을 제기한다.

김덕진 IT커뮤니케이션 연구소장은 특수 조건에서 기존 계산식이 완벽하지 않을 수 있는 사례가 발견되었다고 분석했다.

기존 유체 흐름 분석 방식으로는 예측하기 힘든 현상이 나타날 수 있다는 점에서 새로운 접근 방식이 필요해 보인다.

이번 증명은 약 1만 개의 AI 에이전트가 80시간(약 3일 반) 동안 방대한 계산을 수행하여 도출됐다.

이 과정에서 인간 연구진은 AI가 도출한 중간 결과물 중 쓸만한 것을 선별하여 다른 AI 에이전트에게 넘겨주는 방식으로 개입했다.

김덕진 소장에 따르면, AI 만 개가 서로 토론하며 결과를 만들고, 인간이 이를 검토하고 추가 검증을 지시하는 복합적인 협업을 통해 100페이지 분량의 증명이 완성됐다.

이번 AI의 성과에 대해 학계에서는 인간 수학자들이 개발한 최신 아이디어를 AI가 빠르게 학습하고 이를 활용하여 결과를 도출했다는 비판이 제기된다.

김 소장은 오픈AI가 연구 원천에 대한 적절한 인용이나 감사를 생략한 점을 두고 '학술적 약탈'이라는 지적이 나온다고 언급했다.

뉴욕대 교수는 자신이 엔트로픽 도구로 작업한 초안이 오픈AI에 유출되었을 가능성을 제기하며, 오픈AI가 경쟁사의 데이터를 활용했을 수 있다는 의혹을 나타냈다.

오픈AI는 이러한 의혹을 부인하면서도, 자사 제품 사용 중 남은 비식별 데이터가 모델 개선에 활용되었을 가능성을 완전히 배제하지는 않았다.

오픈AI 측은 밀레니엄 난제 해결에 따른 100만 달러의 상금을 수령하지 않겠다는 입장을 표명했다. 이는 약 1만 개의 AI 에이전트를 가동하는 데 발생한 연산 비용이 상금을 훨씬 상회할 것으로 추정되기 때문이다.

수학 난제 풀이에 들인 AI 연산 비용은 1천만 달러를 상회하는 것으로 추산되면서, 100만 달러 상금을 받기 위해 천만 달러 이상의 돈을 썼다는 지적이 나온다.

수학계는 해당 자금을 순수 기초 학문 연구에 지원하는 것이 인류 발전에 훨씬 효과적이었을 것이라며 비판적인 입장을 보였다. 일부에서는 이를 기업 홍보를 위한 수단에 불과하다는 회의적인 시각도 존재한다.

김덕진 소장에 따르면, 어떤 문제에 AI를 적용할지 결정하는 초기 기획 단계는 아직 인간의 역할이다. 오픈AI의 밀레니엄 문제 도전은 인간 수학자들이 관련 난제에서 돌파구를 찾았다는 아이디어에서 출발했다.

또한 AI가 산출한 결과를 검증하고 그것이 가진 학술적 의미를 해석하는 능력도 인간에게 필수적이다.

궁극적으로 개념적 이해와 통찰을 통해 연구의 방향성을 제시하는 것은 여전히 인간 연구자의 고유한 영역으로 남아 있다.

란셋(The Lancet)에 발표된 폴란드 내시경 전문의 연구에 따르면, AI 장비 사용 후 인간의 선종 발견율이 오히려 하락하는 결과가 나타났다.

란셋(The Lancet)에 발표된 폴란드 내시경 전문의 연구 사례에서 AI 장비 사용 후 오히려 인간의 선종 발견율이 하락한 결과가 나타났다.

단순 질문과 답변 위주의 '거래형' 상호작용은 인간의 인지 발달을 저해하는 요인으로 지목된다.

김 소장은 과거에는 문제 풀이 결과가 중요했다면, 앞으로는 그 풀이의 과정을 확인하고 검증하는 능력이 핵심이 될 것이라고 강조했다.

단순히 AI에 의존하여 결과물을 얻는 것을 넘어, '왜 이런 결과가 나왔는가'에 대한 비판적인 질문을 던지고, 막히는 부분을 AI로 보완하며 사고력을 확장하는 방식이 필요하다.