전변분 감소

편집 역사 토론
수치해석 전산유체역학 마지막 수정: 2026-08-16 04:14:22

1. 개요[편집]

전변분 감소
Total Variation Diminishing
약칭TVD (또는 TVNI, total variation non-increasing)
정식화Ami Harten (1983), J. Comput. Phys. 49
조건TV(un+1) ≤ TV(un)
충분조건증분형 계수 C± ≥ 0, C+ + C− ≤ 1
대가고두노프 장벽 → 제한자는 반드시 비선형
유효 범위1차원 스칼라 보존법칙. 다차원·계는 엄밀히 성립 안 함

진동을 막는 가장 정직한 방법은 “진동이 뭔지”를 숫자 하나로 정의해 놓고 그게 안 늘게 하는 것이다.

전변분 감소(Total Variation Diminishing, TVD)는 이산 도식이 한 시간 스텝을 밟을 때 해의 전변분(total variation)이 절대 증가하지 않는다는 성질이다. 격자값 수열 {uj}\{u_j\} 의 전변분은 이웃 차이의 절댓값 합

TV(un)  =  ∑j∣uj+1n−ujn∣\mathrm{TV}(u^n) \;=\; \sum_j \left| u_{j+1}^n - u_j^n \right|

이고, 도식이 모든 초기자료·모든 nn 에 대해 TV(un+1)≤TV(un)\mathrm{TV}(u^{n+1}) \le \mathrm{TV}(u^n) 을 만족하면 그 도식은 TVD다. 아미 하튼(Ami Harten)이 1983년 논문에서 정식화했고, 오늘날 충격파 포착 도식의 설계 규격 그 자체가 됐다.

왜 하필 이 양이냐면, 전변분이 안 늘면 새 극값이 생길 수 없기 때문이다. 매끈하던 해에 없던 언덕이 하나 솟으면 오르내림이 두 번 추가되니 TV가 반드시 커진다. 대우를 취하면 TVD 도식은 국소 극값을 새로 만들지 못하고, 따라서 불연속 근처의 언더슈트·오버슈트(위글)가 원천적으로 봉쇄된다. “진동이 작다”가 아니라 “진동이 없다”를 증명 가능한 형태로 얻는다는 것이 이 조건의 값어치다.1

2. 정확해가 먼저 그렇다[편집]

TVD가 임의로 지어낸 규격이 아니라는 점이 중요하다. 1차원 스칼라 보존법칙

ut+f(u)x=0u_t + f(u)_x = 0

의 엔트로피 해는 초기값이 유계 변동 함수면 시간이 지나도 BV로 남고, TV(u(⋅,t))≤TV(u0)\mathrm{TV}(u(\cdot,t)) \le \mathrm{TV}(u_0) 를 만족한다. 즉 정확해가 이미 TVD다. 이산 도식에 TVD를 요구하는 것은 정확해가 가진 성질을 그대로 물려받으라는 요구이지, 진동을 지우려고 억지로 끼얹는 필터가 아니다.

덤으로 따라오는 것이 수렴 증명의 표준 각본이다. 도식이 TVD이고 L∞L^\infty 유계면 근사해 열의 전변분이 균등유계이므로 헬리 선택정리로 Lloc1L^1_{\rm loc} 수렴 부분열을 뽑을 수 있고, 여기에 락스-벤드로프 정리(일관성 + 보존형 ⟹ 극한이 약해)와 엔트로피 부등식을 붙이면 극한이 엔트로피 해임이 나온다. 안정성을 노름이 아니라 변동으로 재는 것이 비선형 쌍곡형 문제에서 통하는 거의 유일한 길이다.

3. 하튼의 충분조건[편집]

TVD인지 직접 확인하는 것은 절댓값 합을 다뤄야 해서 성가시다. 하튼은 도식을 다음 증분형(incremental form)으로 쓸 수 있으면 계수 조건만 보면 된다는 것을 보였다. Δj+1/2u=uj+1−uj\Delta_{j+1/2}u = u_{j+1} - u_j 로 두고

ujn+1=ujn+Cj+1/2+ Δj+1/2un−Cj−1/2− Δj−1/2unu_j^{n+1} = u_j^{n} + C^{+}_{j+1/2}\,\Delta_{j+1/2}u^{n} - C^{-}_{j-1/2}\,\Delta_{j-1/2}u^{n}

라 쓸 수 있을 때, 모든 jj 에서

Cj+1/2+≥0,Cj+1/2−≥0,Cj+1/2++Cj+1/2−≤1C^{+}_{j+1/2} \ge 0, \qquad C^{-}_{j+1/2} \ge 0, \qquad C^{+}_{j+1/2} + C^{-}_{j+1/2} \le 1

이면 그 도식은 TVD다. 증명은 세 줄이다. 위 식을 차분하면

Δj+1/2un+1=(1−Cj+1/2+−Cj+1/2−)Δj+1/2un+Cj+3/2+Δj+3/2un+Cj−1/2−Δj−1/2un\Delta_{j+1/2}u^{n+1} = \bigl(1 - C^{+}_{j+1/2} - C^{-}_{j+1/2}\bigr)\Delta_{j+1/2}u^{n} + C^{+}_{j+3/2}\Delta_{j+3/2}u^{n} + C^{-}_{j-1/2}\Delta_{j-1/2}u^{n}

가 되는데, 세 계수가 모두 음이 아니므로 삼각부등식을 먹이고 jj 에 대해 더하면 각 Δ\Delta 의 총 가중치가 정확히 1이 되어 TV(un+1)≤TV(un)\mathrm{TV}(u^{n+1}) \le \mathrm{TV}(u^n) 이 나온다. 계수의 부호가 전부라는 점에서 차분 도식 문서의 유계성(계수 동부호) 조건과 같은 뿌리다.

성질들의 포함 관계도 정리해 둘 만하다.

단조(monotone)  ⊂  TVD  ⊂  단조성 보존(monotonicity preserving)\text{단조(monotone)} \;\subset\; \text{TVD} \;\subset\; \text{단조성 보존(monotonicity preserving)}

단조 도식(각 uku_k 에 대해 ∂ujn+1/∂ukn≥0\partial u_j^{n+1}/\partial u_k^n \ge 0)이면 TVD이고, TVD면 단조 초기자료를 단조로 유지한다. 셋 다 진동을 막지만 강도가 다르고, 정확도 장벽도 다르다.

4. 고두노프 장벽 — 선형으로는 안 된다[편집]

여기서 이 분야에서 가장 유명한 부정적 결과가 나온다. 고두노프의 정리(1959)는 이렇다.

단조성을 보존하는 선형 도식은 정확도가 1차를 넘을 수 없다.

증명은 놀랍도록 짧다. 선형 도식 ujn+1=∑kckuj+knu_j^{n+1} = \sum_k c_k u_{j+k}^n 이 단조성 보존이면 모든 ck≥0c_k \ge 0 이어야 하고, 계수가 전부 음이 아니면서 2차 정확도의 모멘트 조건을 동시에 만족시키는 것이 불가능하다. 비슷하게 하튼-하이먼-락스(1976)는 단조 도식은 (비선형이어도) 1차가 한계임을 보였다. 반면 TVD는 그 사이에 앉아 있어서, 비선형 도식이라면 2차 이상 + TVD가 가능하다.

그래서 모든 고해상도 도식은 예외 없이 비선형이다 — 방정식이 선형인 순수 이류 문제를 풀 때조차 그렇다. 계수가 해에 의존하도록 만드는 장치가 제한자(limiter)이고, 이것이 “매끈한 곳에서는 고차, 급구배 근처에서는 저차”라는 전환을 도식 스스로 하게 만든다.2

5. 스위비 다이어그램과 제한자[편집]

제한자를 설계하는 표준 틀은 스위비(Sweby, 1984)가 정리했다. 선형 이류 ut+aux=0u_t + a u_x = 0(a>0a>0, 쿠랑수 ν=aΔt/Δx\nu = a\Delta t/\Delta x)에 대해 락스-벤드로프의 반확산 플럭스를 제한자로 눌러 쓰면

ujn+1=ujn−ν Δj−1/2u−ν(1−ν)2[ψ(rj) Δj+1/2u−ψ(rj−1) Δj−1/2u]u_j^{n+1} = u_j^{n} - \nu\,\Delta_{j-1/2}u - \frac{\nu(1-\nu)}{2}\Bigl[\psi(r_j)\,\Delta_{j+1/2}u - \psi(r_{j-1})\,\Delta_{j-1/2}u\Bigr]

이고, 여기서 스위비 변수는 상류 쪽 구배와 하류 쪽 구배의 비

rj=uj−uj−1uj+1−ujr_j = \frac{u_j - u_{j-1}}{u_{j+1} - u_j}

다. r≈1r \approx 1 이면 해가 매끈하다는 뜻이고, r<0r < 0 이면 jj 가 극값이라는 뜻이다. 이 도식을 증분형으로 정리해 하튼 조건을 먹이면, 0≤ν≤10 \le \nu \le 1 전 구간에서 TVD이기 위한 제한자 조건이 나온다.

0≤ψ(r)r≤2,0≤ψ(r)≤2⟺0≤ψ(r)≤min⁡(2r, 2)0 \le \frac{\psi(r)}{r} \le 2, \qquad 0 \le \psi(r) \le 2 \qquad\Longleftrightarrow\qquad 0 \le \psi(r) \le \min(2r,\,2)

r≤0r \le 0 에서는 ψ=0\psi = 0 — 즉 극값에서는 무조건 1차 상류로 내려앉는다. 이 부등식이 그리는 (r,ψ)(r,\psi) 평면의 영역이 스위비 다이어그램이고, 2차 정확도까지 요구하면 ψ(1)=1\psi(1)=1 이 추가되면서 허용 영역이 minmod(하한)와 superbee(상한) 사이의 띠로 좁아진다. 유명한 제한자들은 전부 이 띠 안을 지나는 서로 다른 곡선일 뿐이다.

제한자ψ(r)\psi(r)성격
minmodmax⁡(0,min⁡(1,r))\max\bigl(0,\min(1,r)\bigr)2차 TVD 띠의 하한. 가장 소산적, 가장 안전
van Leerr+∣r∣1+∣r∣\dfrac{r+\lvert r\rvert}{1+\lvert r\rvert}매끄럽고 미분가능. 국룰 기본값
van Albadar2+rr2+1\dfrac{r^2+r}{r^2+1} (r>0r>0)van Leer와 비슷하되 유리함수, 압축성 코드에서 애용
MCmax⁡(0,min⁡(2r,1+r2,2))\max\bigl(0,\min(2r,\tfrac{1+r}{2},2)\bigr)중심차분을 최대한 살림. 정확도 좋음
superbeemax⁡(0,min⁡(2r,1),min⁡(r,2))\max\bigl(0,\min(2r,1),\min(r,2)\bigr)띠의 상한이자 TVD 영역의 경계. 불연속은 제일 날카롭고 매끈한 경사는 계단화
1D 선형 이류를 같은 CFL 로 다섯 도식이 동시에 풀고 TV(uⁿ)/TV(u⁰) 곡선을 함께 그린다. ν=0.5 로 두 주기(800스텝) 돌리면 Lax–Wendroff 는 첫 스텝부터 TV 를 늘려 1.4856 까지 올라가고 최소값이 −0.232 로 내려가지만, minmod·van Leer·superbee 는 스텝별 ΔTV 가 배정도 반올림(≤5e−15) 이내라 1.0 선을 넘지 않는다.

쓸 만한 제한자는 대칭 조건 ψ(r)/r=ψ(1/r)\psi(r)/r = \psi(1/r) 도 만족한다 — 이게 있어야 좌·우 구배를 뒤바꿔도 같은 결과가 나온다. 그리고 공간만 TVD로 만들어 놓고 시간을 아무거나 쓰면 성질이 깨진다. 그래서 룽게-쿠타법 쪽에도 짝이 있는데, 후진 오일러의 볼록결합으로만 구성되어 TVD를 보존하는 SSP(strong stability preserving, 옛 이름 TVD) 룽게-쿠타가 그것이다. 2차·3차 SSP-RK가 CFL 계수 1로 나와 있어 사실상 공짜다.

6. 클리핑 — TVD의 청구서[편집]

TVD는 공짜가 아니다. 조건 r≤0⇒ψ=0r \le 0 \Rightarrow \psi = 0 이 말하는 바가 정확히 이렇다. 매끈한 극값에서도 도식이 1차로 떨어진다. 사인파를 이류시키면 마루와 골이 한 스텝마다 조금씩 깎여 나가고, 이것을 클리핑(clipping) 또는 극값 뭉개기라 부른다. 격자를 반으로 줄여도 극값 근처 오차는 O(Δx)O(\Delta x) 로만 줄기 때문에, 전역 수렴 차수를 L1L^1 에서 재면 2차가 안 나오고 1.5차 언저리에 주저앉는 일이 흔하다.

원인은 명백하다. TVD는 “진짜 극값”과 “가짜 진동”을 구별할 수단이 없다. 격자 3점만 보면 매끈한 마루와 위글은 똑같이 생겼다. 그래서 이후의 계보는 전부 이 구별을 어떻게 되찾을 것인가로 갈라진다.

  • TVB(Total Variation Bounded, Shu 1987) — 매 스텝 TV가 줄어들 것까지는 요구하지 않고, 격자 간격과 무관한 상수로 TV가 유계이기만 하면 된다고 조건을 푼다. 구현은 minmod에 문턱 상수 MM 을 넣어 ∣Δu∣≤MΔx2\lvert \Delta u\rvert \le M\Delta x^2 이면 제한을 아예 걸지 않는 것. 매끈한 극값에서는 차이가 O(Δx2)O(\Delta x^2) 이므로 제한이 발동하지 않고 차수가 살아난다. MM 이 해의 2계 도함수 규모라 문제마다 튜닝해야 하는 게 흠이고, 불연속 갤러킨법의 제한자가 이 상수 때문에 고생하는 것도 같은 이유다.
  • ENO 도식(Harten–Engquist–Osher–Chakravarthy 1987) — TV 대신 “가장 매끄러운 스텐실을 고른다”로 갈아탄다. 진동은 O(Δxk)O(\Delta x^k) 수준으로 억제되지만 TVD처럼 엄밀히 0은 아니다.
  • WENO 도식(Liu–Osher–Chan 1994, Jiang–Shu 1996) — 스텐실을 고르는 대신 매끄러움 지표로 가중 평균한다. 매끈한 영역에서 차수를 2k−12k-1 까지 올리면서 불연속 근처에서만 가중치를 죽인다. 오늘날 고차 충격 포착의 사실상 표준.

즉 TVD는 도착점이 아니라 출발점이다. “진동 없음을 증명 가능하게 만든” 최초의 규격이고, 그 규격의 한계가 이후 30년치 연구 주제를 정의했다.

7. 다차원과 계로 갈 때[편집]

여기서 정직해야 할 대목이 둘 있다.

첫째, 다차원에서 TVD는 사실상 사망 선고다. 굿맨과 르베크(1985)는 2차원에서 TVD인 도식은 (몇 가지 자연스러운 가정 아래) 1차 정확도를 넘을 수 없음을 보였다. 1차원에서 고두노프 장벽을 우회하려고 만든 개념이 2차원에서는 스스로 장벽이 되어 버린 것이다. 그래서 실무 코드가 “우리는 2차 TVD 도식을 씁니다”라고 말할 때, 그것은 대개 방향 분할이나 차원별 제한자 적용을 뜻하지 진짜 2차원 TVD를 뜻하지 않는다. 대신 다차원에서는 국소 최대·최소를 직접 억제하는 LED·MP(maximum principle) 계열이나 FCT, 그리고 적응 격자 세분화로 문제를 우회한다.

둘째, 방정식이 계(system)면 TV 자체가 감소량이 아니다. 오일러 방정식의 정확해는 각 성분의 전변분이 줄어든다는 보장이 없다 — 파동이 상호작용하면서 새 파가 생기기 때문이다.3 실무의 처방은 특성 변수로 갈아탄 뒤 성분별로 제한자를 먹이는 것이다. 리만 솔버의 파동 분해에서 나온 특성 강도에 제한자를 적용하면 국소적으로는 스칼라 문제 여러 개를 푸는 셈이 되어 잘 작동한다. 싸게 가려고 보존 변수에 성분별로 제한자를 먹이는 구현도 흔한데, 접촉면 근처에서 압력 진동이 새는 대가를 치른다.

소스항이 있으면 또 다른 이야기가 붙는다. 정지해(lake at rest)를 깨지 않는 이산화가 따로 필요하고, 그건 웰밸런스드 도식의 영역이다.

8. 실무에서 남는 것[편집]

  • 제한자를 껐다 켜 보는 것이 1차 진단이다. 결과의 진동이 물리인지 도식인지 구별하는 가장 싼 실험이다. 제한자를 켰더니 사라지면 그건 수치 소산과 분산의 분산 오차였다.
  • 정상상태 계산에서 제한자는 수렴을 방해한다. ψ\psi 가 반복마다 껐다 켜지며 잔차가 어느 수준 밑으로 안 내려가는 현상(limiter chattering)이 국룰급으로 흔하다. 미분가능한 제한자(van Leer, van Albada)나 벤카타크리슈난식 완화가 이 때문에 존재한다.
  • 극값이 중요한 문제에 superbee를 쓰지 마라. 계면을 날카롭게 유지하려고 상한선을 타는 제한자는 매끈한 프로파일을 사각파로 만들어 놓는다. 계면 추적이 목적이면 이득, 난류나 음향이 목적이면 재앙이다.
  • 차수 검증은 매끈한 해로, 진동 검증은 불연속으로 따로 한다. 하나의 시험 문제로 둘 다 보려 하면 클리핑 때문에 차수가 안 나오고 원인 진단이 꼬인다. 검증 및 확인의 기본이다.

9. 관련 문서[편집]

10. Footnotes[편집]

  1. 이름이 헷갈리기 쉬운데 diminishing 은 “줄어든다”가 아니라 “늘지 않는다”는 뜻으로 쓰였다. 그래서 더 정확한 이름으로 TVNI(total variation non-increasing)를 쓰자는 제안이 하튼 본인 논문에도 있었으나, 이미 TVD가 굳어 버린 뒤였다. 수치해석 용어 절반은 이런 식으로 정해진다. ↩

  2. “선형 방정식을 푸는데 왜 비선형 도식이 필요하냐”는 질문은 매우 합리적이고, 답도 명확하다. 정확도와 단조성은 도식의 성질이지 방정식의 성질이 아니기 때문이다. 고두노프 장벽은 방정식이 얼마나 순한지와 무관하게 작동한다. ↩

  3. 그렇다고 계에 대한 안정성 이론이 없는 건 아니다. 글림(1965)이 무작위 선택법으로 초기 전변분이 충분히 작을 때 전변분이 균등유계로 남는다는 것을 증명했고, 이것이 1차원 계 보존법칙의 대역 존재성 정리의 골격이다. 다만 “충분히 작을 때”라는 단서가 붙고, 실제 CFD가 다루는 강한 충격파는 그 범위 밖이다. ↩