OpenAI, 100년 난제 '나비에-스토크스 방정식' 풀었나? 전문가 분석

배가 움직이는 유체 장면을 애니메이션으로 구현하는 사례가 언급되었으며, 이러한 작업을 통해 미국 아카데미상을 받은 사람이 있다고 소개됩니다. 이는 시각적으로 단순해 보이는 애니메이션 뒤에 복잡한 수학적 원리가 숨어 있음을 시사합니다.

같은 수업을 듣고도 어떤 사람은 충격파를 해석하거나 수력 도약을 더 잘 풀 방법을 고민하는 반면, 아무 생각도 떠올리지 않는 사람도 있다고 비교됩니다. 이는 학문적 호기심과 문제 해결 능력이 사람마다 다르게 발현될 수 있음을 보여줍니다.

수학계에서는 AI가 난제 답을 내기 시작하면서 일부 결과가 필즈상급이라는 평가와 함께 우려의 목소리가 나오고 있습니다. 지난 여름부터 언어 모델이 난제에 대한 답을 내놓기 시작하자, '수학은 이렇게 풀어서는 안 된다'는 본질적인 우려와 'AI가 난제를 너무 빨리 풀면 수학자들은 어떻게 대응해야 할까'라는 현실적인 질문이 제기되었습니다.

이는 알파고 등장 이후 바둑계가 대응했던 상황과 유사하게, AI 기술 발전이 특정 학문 분야에 미치는 영향에 대한 깊은 고민이 필요함을 나타냅s.

AI가 난제를 풀었는지 아닌지에 대한 판단은 검증의 영역에 속하며, 현재로서는 수학계가 앞으로 어떻게 대응해야 할지에 대한 고민의 시간이 필요하다고 언급됩니다.

이는 AI의 성과 자체보다 그 결과의 의미를 정확히 이해하고, 새로운 기술 시대에 학계가 나아가야 할 방향을 모색하는 것이 더 중요하다는 점을 강조합니다.

지난 9월 8일 OpenAI는 나비에-스토크스 방정식의 해가 유한한 시간 내에 속도가 무한히 발산하는 특이점으로 전개되는 해를 제시했다고 발표했습니다. 이 발표는 많은 이들에게 AI가 나비에-스토크스 방정식을 완전히 풀었다는 오해를 불러일으켰습니다.

대담에서는 이번 발표의 실제 의미와 나비에-스토크스 방정식의 본질, 그리고 앞으로 유체역학 분야가 나아갈 방향에 대해 자세히 다룰 예정입니다.

나비에-스토크스 방정식은 벡터와 텐서 표기 두 가지 방식이 있는데, 텐서 표기는 방정식의 갈래를 확장하기 위해 사용됩니다. 방정식의 각 항은 밀도(로), 압력(P), 점도(뮤)를 의미하며, 이 세 가지 요소가 속도 변화를 표현합니다.

방정식에는 부력, 전자기력, 중력과 같은 외력(F)이 포함될 수 있지만, 밀레니엄 문제는 외력 F를 0으로 가정한 경우를 다룹니다.

나비에-스토크스 방정식은 밀도를 상수로 고정하는 '비압축성 가정' 하에 풀이됩니다. 밀도까지 미분 변수로 고려하면 계산이 훨씬 복잡해지기 때문에, 실제 공기와 물이 압축될 수 있음에도 불구하고 일반 유체역학에서는 비압축 가정을 많이 사용합니다. 이는 뉴턴 역학에서 질량을 고정으로 보는 가정과 유사하다고 설명됩니다.

민태기 박사는 "밀레니엄 문제라고 하는 게 수학적 난제이긴 하지만 다양한 방정식 중에 굉장히 제한된 조건 중에 하나인 거지, 모든 유체 문제를 말하는 것은 아니다"라고 강조하며, 비압축성 가정이 현실의 모든 유체 문제를 대변하지 않음을 지적했습니다.

나비에-스토크스 방정식의 밀레니엄 문제는 A, B, C, D로 나뉘는데, 이 중 A와 B는 외력 F가 0인 경우를 가정합니다. 문제의 핵심은 외력이 없을 때 '매끄러운 해'가 계속 유지될 것인지에 대한 여부입니다.

대담에서 '매끄럽다'는 것의 의미를 고등학생 수준으로 설명해 달라는 요청이 있었습니다.

매끄러운 해는 미분 가능하고 부드러운 변화를 유지하는 성질을 의미합니다. 예를 들어, V자 모양의 그래프는 연속적이지만 꺾이는 지점에서 미분값이 측정되지 않아 매끄럽지 않다고 설명됩니다. 즉, 갑작스러운 변화 없이 플러스에서 마이너스로 서서히 변하는 것을 의미합니다.

계단식 함수처럼 기울기가 수직으로 변하는 스텝 펑션은 매끄럽지 않은 해의 대표적인 사례로, 미분값들이 연결되지 않기 때문에 매끄럽지 않다고 표현합니다. 나비에-스토크스 방정식에서 매끄러운 해가 주어졌을 때 그 매끄러움이 유지될 것인가가 난제의 핵심입니다.

나비에-스토크스 밀레니엄 문제에서 A와 B는 외력이 없는 경우, C와 D는 외력이 주어진 경우 해의 매끄러움이 유지되는지를 묻습니다. AI가 이번에 다룬 것은 외력이 주어진 경우(C, D)의 특수한 사례로, 매끄러운 해가 특정한 외력을 받았을 때 발산하는 조건을 찾는 것이 수학적 난제였습니다.

민태기 박사는 "CD는 뭐냐면은 외력도 매끄러우냐 아니냐 이런게 있을 거잖아요. 매끄러운 외력이 있었을 때이 해는 계속 매끄러움을 유지할 것인가?"라고 설명하며, AI의 이번 발표가 외력이 주어졌을 때 해가 발산하는 현상을 다뤘다는 점을 짚었습니다.

민태기 박사는 AI가 나비에-스토크스 방정식을 풀었다는 주장은 "굉장히 과장된 것"이라고 평가했습니다. AI가 특정 제한된 조건, 즉 밀레니엄 문제의 비압축성 유동 방정식 중 극히 제한된 부분에서 돌파구를 마련한 것은 사실이나, 이를 전체 유체 문제를 해결했다고 보기는 어렵다는 것입니다.

AI가 수학적 난제에 다가섰다는 점은 충격적인 성과이지만, 현실의 모든 유체 현상을 예측할 수 있는 수준에는 미치지 못한다고 설명하며, "물이나 공기의 움직임을 이제 다 예측할 수 있는 것이 아니다"라고 덧붙였습니다.

매끄럽지 않은 해의 대표적인 예시로 1887년 에런스마크가 촬영한 총알의 충격파가 언급됩니다. 총알이 날아갈 때 발생하는 충격파를 경계로 밀도가 급격하게 변하는 계단식 현상은 매끄럽지 않은 해가 현실 세계에 존재함을 보여줍니다.

이는 '자연은 도약을 허용하지 않는다'는 라이프니츠의 믿음과 달리, 비연속적인 현상이 자연에 존재하며, 특수한 조건에서 해의 매끄러움이 유지되는지를 밝히는 것이 물리학적 난제였다는 것을 의미합니다.

비압축성 나비에-스토크스 방정식에서도 '수력 도약(Hydraulic Jump)'과 같은 비연속 현상이 발생합니다. 싱크대에서 물이 떨어지거나 댐 방류 시 수위가 갑자기 변하는 것이 대표적인 수력 도약의 사례입니다. 민태기 박사는 "수력도약이라 그래요. 도약 아까 도약을 허용하지 않는다 했어요. 도약을 허용하잖아요"라고 말하며 이러한 현상이 현실에서 흔히 관찰됨을 강조했습니다.

이러한 현상을 규정하기 위해 19세기에 푸르드(Froude)가 제시한 '프루드 수'와 같은 상사 법칙이 필수적으로 사용됩니다. 푸르드 수는 작은 모형 실험 결과를 큰 스케일에 적용할 때 발생하는 오차를 해결하기 위해 고안되었으며, 이를 통해 상사 법칙이 처음으로 물리학적으로 유도되었습니다.

이는 뉴턴 역학의 단순한 스케일업이 현실에 맞지 않았던 문제를 해결한 중요한 발전이며, 작은 스케일에서 두 배로 키웠을 때 단순히 두 배의 연료를 더 싣는 문제가 아님을 보여줍니다.

유조선이나 LNG 선박과 같이 길이가 400m가 넘는 거대 선박의 유체역학적 현상을 계산하는 것은 매우 고난도의 과정입니다. 이러한 규모의 선박이 물 위를 움직일 때 발생하는 복잡한 현상을 정확하게 예측하고 설명하는 것은 현대 공학의 중요한 도전 과제입니다.

이미 19세기부터 이러한 유체역학적 현상을 계산하고 설명하려는 시도가 있었으며, 이는 당시에도 유체역학이 얼마나 중요한 분야였는지를 보여줍니다. 따라서 이번 AI의 증명은 일상생활에서 다루는 광범위한 유체역학 분야 중 극히 제한된 조건만을 다룬 것이라고 할 수 있습니다.

수학적으로 물과 공기처럼 밀도 차이가 큰 경계면을 다루기 위해 UCLA 스탠리 오셔 교수가 개발한 '레벨셋 메소드(Level-set Method)'가 소개되었습니다. 물의 밀도는 공기의 약 1,000배에 달하기 때문에 경계면에서 밀도가 수직으로 급변하는데, 이를 표현하는 수학적 기법이 레벨셋 메소드입니다.

이 기법은 영화 '토이 스토리' 등에서 물과 바람의 움직임을 정교하게 애니메이션으로 구현하는 데 크게 기여했습니다. 초기의 토이 스토리가 고체만 움직이는 데 그쳤다면, 레벨셋 메소드의 도입으로 물과 같은 유체 표현이 가능해져 애니메이션의 사실성을 높였습니다.

압축성 나비에-스토크스 방정식에서는 밀도(로)가 미분항 내부로 들어가 변수로 작용하며, 이를 특성 행렬의 고유치(Eigenvalue)로 풀이하면 속도와 음속(C)의 조합으로 결과가 도출됩니다. 그러나 음속이 초속 340m로 매우 빠르기 때문에, 유체의 속도가 낮을 경우 고유치 간 격차가 너무 크게 벌어져 수치 해석이 극도로 어려워지는 문제가 발생합니다.

민태기 박사는 "그 속도가 음속보다 너무 작아 버리면 저 세 개의 고유치가 너무나 벌어져요. 그러니까 그 고유치가 양쪽으로 너무 벌어졌다는 이야기는 이게 수치적으로 풀려고 하다 보면 너무나 벌어져 있는 이 고유치의 문제를 풀기 때문에 이게 어려워져요"라고 설명하며, 이러한 수치적 불안정성 때문에 속도가 느린 유동은 비압축성으로 가정하고 푸는 것이 관례라고 밝혔습니다.

압축성 유체 역학에서 속도가 느릴 경우 고유치와 음속(340m/s) 간의 격차가 너무 커져 수치 계산이 매우 어렵고 잘 풀리지 않는 문제가 발생합니다. 이러한 수치적 불안정성 때문에 유체역학에서는 속도가 느린 유동에 대해서는 비압축성 가정을 택하여 문제를 해결합니다.

민태기 박사는 아지랑이처럼 속도가 빠르지 않은 현상을 굳이 압축성으로 풀 경우, 고유치 값들이 너무 벌어져 수치적 전개가 힘들기 때문에 비압축성 가정이 유효하다고 설명했습니다. 반면, 비행기처럼 속도가 빠른 경우는 압축성으로 해석하는 것이 좋다고 정리되어 있으며, 이러한 복잡성 때문에 유체역학을 전공하는 많은 이들이 어려움을 겪는다고 언급했습니다.

밀레니엄 문제는 비압축성 나비에-스토크스 방정식에 한정된 것으로, '매끄러운 해'를 강조하는 등 대상을 크게 제한하고 있습니다. 이는 일반적인 유체역학 전체를 다루는 것이 아니라, 특정 조건 하의 방정식을 의미하며, 매끄럽지 않은 경우까지 포함하면 이야기가 훨씬 복잡해지기 때문입니다.

민태기 박사는 "밀레니엄 문제라는 게 우리가 일반적으로 알고 있는 나비에-스토크스 방정식 전부 다를 이야기하진 않는다"고 강조하며, 수많은 가정을 해도 여전히 풀기 어려운 나비에-스토크스 방정식의 무시무시함을 보여주는 반례이기도 하다고 설명했습니다. 이는 유체역학이 다양한 분야를 다루며 어느 한 부분만으로 전체를 설명할 수 없음을 시사합니다.