나비에-스토크스 방정식

1. 개요

나비에-스토크스 방정식 Navier–Stokes Equations
유형	비선형 2계 편미분방정식계
유도	나비에 (1822 발표 · 1827 간행) → 스토크스 (1845)
보존량	질량 · 운동량 (+ 에너지)
지배 무차원수	레이놀즈수 Re
미해결 문제	3차원 존재성·매끄러움 (클레이 밀레니엄 문제)

신은 난류를 만들지 않았다. 다만 나비에-스토크스 방정식을 만들었을 뿐인데 난류가 튀어나왔다.

나비에-스토크스 방정식(Navier–Stokes equations)은 점성 유체의 운동을 기술하는 비선형 편미분방정식계로, 유체역학의 알파이자 오메가다. 프랑스의 나비에(C.-L. Navier)가 1822년 학술원에서 발표한 논문에서 점성항을 처음 집어넣었고¹, 영국의 스토크스(G. G. Stokes)가 1845년 논문에서 뉴턴 유체의 구성방정식으로부터 엄밀하게 재유도하며 오늘날의 형태로 정립했다. 뉴턴 제2법칙 $F=ma$를 연속체인 유체 입자에 적용한 것에 불과하지만, 그 “불과한” 방정식이 200년째 인류를 괴롭히고 있다.

전산유체역학이라는 분야 자체가 사실상 이 방정식을 컴퓨터로 두들겨 패서 근사해를 얻는 기술의 집합이라고 봐도 무방하다.

2. 방정식의 형태

2.1. 연속 방정식

질량 보존을 나타낸다. 밀도 $\rho$, 속도 벡터 $\mathbf{u}$에 대해:

$$\frac{\partial \rho}{\partial t} + \nabla \cdot (\rho \mathbf{u}) = 0$$

비압축성 유동($\rho = \text{const}$)이라면 깔끔하게 $\nabla \cdot \mathbf{u} = 0$이 된다.

2.2. 운동량 방정식

일반형은 코시 운동량 방정식 $\rho \, D\mathbf{u}/Dt = \nabla \cdot \boldsymbol{\sigma} + \rho\mathbf{g}$이고, 여기에 뉴턴 유체의 구성방정식

$$\boldsymbol{\sigma} = -p\mathbf{I} + \mu\left(\nabla\mathbf{u} + (\nabla\mathbf{u})^{\mathsf{T}}\right) + \lambda (\nabla\cdot\mathbf{u})\mathbf{I}$$

을 대입하면 나비에-스토크스 방정식이 된다. 점성계수 $\mu$가 상수이고 비압축성이면 $\nabla\cdot\mathbf{u}=0$ 덕분에 점성항이 $\mu\nabla^2\mathbf{u}$ 하나로 접히고, 흔히 보는 다음 형태가 나온다.

$$\rho \left( \frac{\partial \mathbf{u}}{\partial t} + (\mathbf{u} \cdot \nabla)\mathbf{u} \right) = -\nabla p + \mu \nabla^2 \mathbf{u} + \rho \mathbf{g}$$

각 항의 의미를 뜯어보면 다음과 같다.

항	이름	물리적 의미
$\partial \mathbf{u}/\partial t$	비정상항	시간에 따른 속도 변화
$(\mathbf{u} \cdot \nabla)\mathbf{u}$	대류항	유체가 스스로를 실어 나르는 효과. 모든 악의 근원2
$-\nabla p$	압력 구배항	압력 차이가 유체를 미는 힘
$\mu \nabla^2 \mathbf{u}$	점성 확산항	점성에 의한 운동량 확산
$\rho \mathbf{g}$	체적력항	중력, 부력 등

$\mu = \text{const}$ 가정을 풀면 점성항은 $\nabla\cdot[\mu(\nabla\mathbf{u}+(\nabla\mathbf{u})^{\mathsf{T}})]$ 형태를 유지해야 한다. 온도 의존 점성이나 난류 모델링의 와점성(eddy viscosity)을 쓰는 순간 $\mu$는 더 이상 상수가 아니므로, 상용 코드가 라플라시안 형태 대신 발산 형태를 쓰는 것은 이 때문이다.

2.3. 무차원화와 레이놀즈수

대표 속도 $U$, 대표 길이 $L$로 $\mathbf{u}^* = \mathbf{u}/U$, $\mathbf{x}^* = \mathbf{x}/L$, $t^* = tU/L$, $p^* = p/(\rho U^2)$로 무차원화하면 비압축성 방정식은 다음 한 줄로 줄어든다.

$$\frac{\partial \mathbf{u}^*}{\partial t^*} + (\mathbf{u}^* \cdot \nabla^*)\mathbf{u}^* = -\nabla^* p^* + \frac{1}{Re}\nabla^{*2}\mathbf{u}^*$$

여기서 $Re = \rho U L/\mu$가 레이놀즈수다. 즉 기하학적으로 닮은 유동에서 물리를 결정하는 매개변수는 $Re$ 하나뿐이며, 이것이 축소 모형 풍동 실험이 성립하는 근거이자 CFD 벤치마크가 언제나 $Re$로 색인되는 이유다. $Re \to \infty$ 극한에서 점성항 앞의 계수가 0으로 가지만, 최고차 미분항이 사라지는 특이 섭동(singular perturbation)이라 점성을 그냥 버릴 수는 없다. 그 버려지지 않는 잔재가 벽 근처의 경계층이다.

3. 왜 풀기 어려운가

첫째, 비선형성. 대류항 $(\mathbf{u} \cdot \nabla)\mathbf{u}$은 속도가 속도 자신에 곱해지는 구조라, 중첩원리가 통하는 선형 이론의 우아한 도구들이 전부 무력화된다. 이 항이 바로 난류라는 카오스를 낳는 주범이다.

둘째, 압력-속도 연성. 비압축성 유동에서는 압력에 대한 독립적인 시간 전개 방정식이 없다. 압력은 오직 “속도장이 연속 방정식을 만족하도록” 순간적으로 조정되는 라그랑주 승수처럼 행동한다. 운동량 방정식의 발산을 취하면 압력에 대한 푸아송 방정식 $\nabla^2 p = -\rho\,\nabla\cdot[(\mathbf{u}\cdot\nabla)\mathbf{u}]$이 나오는데, 이 타원형 방정식을 매 스텝 푸는 비용이 비압축성 솔버 실행 시간의 대부분을 잡아먹는다. 수치적으로 이를 풀어내는 것이 SIMPLE 알고리즘 같은 압력-속도 연성 기법의 존재 이유다.

셋째, 스케일의 폭. 높은 레이놀즈수 난류에서는 에너지를 담은 큰 와(eddy)부터 점성으로 소산되는 콜모고로프 스케일까지 유동 구조의 크기가 벌어진다. 콜모고로프 이론에 따르면 그 비는 $L/\eta \sim Re^{3/4}$이고, 3차원 공간에 시간까지 해상하면 필요한 자유도가 대략 $Re^3$으로 늘어난다. $Re$를 10배 올리면 계산량이 1000배가 된다는 뜻이다. 이를 전부 해상하려는 시도가 직접수치모사이고, 포기하고 모델로 때우는 것이 난류 모델링이다.

4. 밀레니엄 문제

3차원에서 매끄러운 초기조건이 주어졌을 때 해가 영원히 매끄럽게 존재하는지, 아니면 유한 시간에 속도가 무한대로 폭발(blowup)하는지는 유체역학 최대의 미해결 문제다. 클레이 수학연구소가 2000년에 내건 7대 밀레니엄 문제 중 하나이며 상금은 100만 달러.³

공식 문제 서술은 페퍼먼(C. L. Fefferman)이 작성했고, 다음 네 진술 중 하나를 증명하면 해결로 인정한다.

진술	내용	외력 $f$
(A)	$\mathbb{R}^3$에서 매끄러운 해가 영원히 존재	$f \equiv 0$
(B)	3차원 주기 영역에서 같은 주장	$f \equiv 0$
(C)	$\mathbb{R}^3$에서 해가 붕괴하는 반례가 존재	매끄러운 $f$ 허용
(D)	주기 영역에서 같은 반례	매끄러운 $f$ 허용

즉 존재성 쪽 (A)·(B)는 외력이 없어야 하지만, 폭발 쪽 (C)·(D)는 매끄러운 외력을 붙여도 된다는 비대칭이 공식 서술에 들어 있다. 2026년의 논란을 이해하려면 이 표를 먼저 봐야 한다.

알려진 것과 모르는 것의 경계는 다음과 같다.

• 약해는 항상 있다. 르레(J. Leray, 1934)가 3차원에서 전역 약해(weak solution)의 존재를 증명했다. 다만 그 약해가 유일한지, 매끄러운지는 모른다.
• 매끄러운 해는 잠깐은 있다. 매끄러운 초기조건에 대해 유한한 시간 구간에서의 존재성과 유일성(국소 적정성)은 증명되어 있다. 문제는 그 시간을 무한대로 늘릴 수 있느냐다.
• 2차원은 끝났다. 2차원에서는 전역 존재성과 유일성이 증명되어 있다. 3차원에서 문제가 터지는 근본 원인은 와도 늘림(vortex stretching) 항이 2차원에서는 항등적으로 0이기 때문이다.
• 특이점이 있어도 아주 작다. 카파렐리-콘-니런버그(1982)는 적절한 약해의 특이집합이 1차원 포물형 하우스도르프 측도 0임을 보였다. 폭발이 일어난다면 시공간의 아주 앙상한 집합 위에서만 일어난다는 뜻이다.

4.1. 2026년 9월의 주장 — 아직 확정되지 않았다

2026년 9월 8일 OpenAI가 AI 에이전트를 대규모로 돌려 3차원 비압축성 나비에-스토크스의 유한시간 폭발해를 구성했다고 발표했다. 정지 상태에서 출발해 총 운동에너지가 균일하게 유계인 채로 속도가 유한시간에 발산하는 해를 명시적으로 만들었다는 주장이며, 증명의 상당 부분에 Lean 형식화가 첨부됐다. 다만 이 구성은 매끄러운 외력을 쓰므로 위 표의 (C)에 해당하고, 외력 없는 폭발을 보인 것이 아니다. 함께 공개된 별도의 오일러 방정식 논문이 외력 없는 폭발을 다룬다.

2026년 9월 16일 현재 상태를 정확히 적으면 이렇다.

• 클레이 연구소는 상금을 수여하지 않았고, 규정상 동료심사 출판 후 최소 2년의 검증 기간을 요구한다. OpenAI 측은 상금을 청구하지 않겠다고 밝혔다.
• 수학계의 독립 검증이 진행 중이며, 서술이 읽기 어렵다는 비판이 공개적으로 제기됐다.
• 코르도바-마르티네스-소로아 계열의 선행 구성 전략에 얼마나 빚졌는지를 두고 우선권 논쟁이 있다.

요컨대 “풀렸다”고 단정하기에는 이르고, “아무것도 안 바뀌었다”고 말하기에도 이르다. 이 문서는 확정 사실만 본문에 두고 진행 중인 주장은 이 절에 격리해 둔다.⁴

실무 엔지니어 입장에서 이 사실이 주는 교훈은 어느 쪽이든 변하지 않는다. 여러분의 해석이 발산하는 것은 어쩌면 수학적으로 심오한 현상일 수 있다. 물론 십중팔구는 격자가 구리거나 경계 조건을 잘못 준 것이지만.

5. 해석해가 있는 특수한 경우들

일반해는 없지만, 조건을 극단적으로 단순화하면 해석해가 존재하는 경우가 몇 개 있다. 대류항이 죽거나(완전발달·평행류) 선형화되는 상황이라는 공통점이 있고, 그래서 CFD 코드 검증 및 확인의 단골 소재가 된다.

• 푸아죄유 유동(Poiseuille flow) — 원관/평행평판 사이의 완전발달 층류. 속도 분포가 포물선이며, 원관에서는 하겐-푸아죄유 흐름의 $Q = \pi R^4 \Delta p/(8\mu L)$로 이어진다.
• 쿠에트 유동(Couette flow) — 움직이는 평판이 끄는 전단 유동. 속도 분포가 직선.
• 스토크스 유동(Stokes flow) — 관성을 아예 무시한 크리핑 유동. 대류항을 버리면 선형 방정식이 되어 풀 만해진다. 구 주위 항력 $F = 6\pi\mu R U$가 대표 결과다.
• 스토크스 제1·제2 문제 — 갑자기 움직이는 무한 평판, 진동하는 평판. 오차함수와 확산 길이 $\sqrt{\nu t}$가 그대로 튀어나온다.
• 2차원 테일러-그린 와류 — $u = \cos x \sin y\, e^{-2\nu t}$, $v = -\sin x \cos y\, e^{-2\nu t}$가 2차원에서는 엄밀해다. 감쇠율 $e^{-2\nu t}$를 코드가 정확히 재현하는지로 점성항 구현을 검산할 수 있다. 다만 흔히 벤치마크로 쓰는 3차원 테일러-그린은 해석해가 아니라 층류에서 난류로 천이하는 표준 초기조건이며, 비교 대상은 고해상도 DNS 데이터다. 둘을 같은 것으로 부르는 실수가 흔하다.

해석해가 없는 영역을 검증할 때는 제조해(method of manufactured solutions)처럼 강제로 해를 만들어 넣는 기법을 쓴다.

6. 원관 하나로 식을 검산하면

원관 푸아죄유는 $Q = \pi R^{4}\Delta p/(8\mu L)$ 이고, 평균 속도는 중심 속도의 절반이다. 물 물성을 $\mu = 10^{-3}\,\mathrm{Pa\cdot s}$, $\nu = 10^{-6}\,\mathrm{m^{2}/s}$ 로 두면 숫자가 떨어진다.

• 반경 $5\,\mathrm{mm}$, 길이 $1\,\mathrm{m}$, 압력차 $10\,\mathrm{Pa}$. 유량 $2.45\times 10^{-6}\,\mathrm{m^{3}/s}$, 평균 $3.125\,\mathrm{cm/s}$, 중심 $6.25\,\mathrm{cm/s}$. 직경 기준 레이놀즈수는 313이라 층류다. 이 식의 안이다.
• 반경 $1\,\mathrm{cm}$, 압력차 $100\,\mathrm{Pa}$, 같은 길이. 식이 뱉는 평균은 $1.25\,\mathrm{m/s}$ 이고 레이놀즈수는 $2.5\times 10^{4}$ 다. 식은 여전히 숫자를 내놓지만, 그 유동은 포물선이 아니다.

압력차를 열 배, 반경을 두 배로 키운 것만으로 검증용 해가 난류 실험이 된다. 코드가 이 두 번째 조건에서 푸아죄유 유량을 재현하면, 그건 맞은 것이 아니라 난류를 못 본 것이다.

7. 이 다음 30분

• 달시-바이스바흐 식 — 레이놀즈수 $2.5\times 10^{4}$ 에서 $R^{4}$ 유량식 대신 쓰는 마찰 손실.
• 레이놀즈수 — 313과 $2.5\times 10^{4}$ 가 갈라 놓는 정성.
• 검증 및 확인 — 첫 번째 원관은 코드 검증에 쓰고, 두 번째는 확인으로 넘겨야 하는 이유.
• SIMPLE 알고리즘 — 이 포물선을 압력-속도 보정으로 다시 얻을 때 완화가 하는 일.
• 직접수치모사 — 레이놀즈수를 더 올리면 격자가 $Re^{9/4}$ 로 커지는 쪽.

8. 관련 문서

• 전산유체역학
• 난류 모델링 · 직접수치모사
• SIMPLE 알고리즘
• 유한체적법 · 유한요소법
• 레이놀즈수 · 콜모고로프 스케일
• CFL 조건 · 검증 및 확인

9. Footnotes

1. 그 사이에 코시(Cauchy), 푸아송(Poisson), 생브낭(Saint-Venant)도 독립적으로 유도했다. 과학사에서 흔한 “동시 발견”의 사례. 스토크스 본인은 프랑스 쪽 문헌을 뒤늦게 알았다고 술회했다. 이름을 나비에-코시-푸아송-생브낭-스토크스 방정식이라고 부르지 않는 것을 다행으로 여기자. ↩

2. 비선형성, 난류, 수치 불안정성, 그리고 CFD 엔지니어의 야근까지 전부 이 항 때문이다. ↩

3. 참고로 푸앵카레 추측을 증명한 페렐만은 이 상금을 거절했다. 밀레니엄 문제 상금은 거절당하는 것이 전통이 되어 가는 모양이다. ↩

4. 위키가 속보를 본문에 녹여 쓰면 6개월 뒤에 아무도 못 고친다. 진행 중인 주장은 날짜를 박아 한 절에 가둬 두는 것이 낫다. 이 절의 서술은 2026-09-16 기준이며, 클레이 연구소의 공식 판단이 나오면 통째로 갱신되어야 한다. ↩