수렴성

1. 개요

수렴성 Convergence
의미	격자·반복이 세밀해질수록 수치해 → 참해
핵심 정리	랙스 등가정리(일관성+안정성 ⇔ 수렴성)
측정량	수렴 차수(order), 수렴률(rate)
인접 개념	안정성, CFL 조건

“돌아가긴 하는데, 이 답이 맞는 답이냐”는 물음에 답하는 것이 수렴성이다.

수렴성(Convergence)은 수치해석에서 격자를 촘촘히 하거나 반복 계산을 거듭할수록 수치해가 참해(exact solution)에 임의로 가까워지는 성질을 말한다. 어떤 수치기법이 아무리 그럴듯한 숫자를 뱉어도, 격자를 무한히 세밀하게 했을 때 정답으로 수렴한다는 보장이 없으면 그 결과는 신뢰할 수 없다. 수렴성은 수치해석의 3대 덕목 — 일관성(consistency), 안정성(stability), 수렴성(convergence) — 중 최종 목표에 해당하는 개념이다.

주의할 점은 수렴성이라는 단어가 두 가지 다른 맥락에서 쓰인다는 것. 하나는 이산화 수렴(격자 간격 $h \to 0$일 때 수치해가 미분방정식의 참해로 가는가)이고, 다른 하나는 반복 수렴(반복법이 대수방정식의 해로 수렴하는가)이다. 둘은 층위가 다르지만 “근사가 정답으로 다가간다”는 정신은 같다. 이 문서는 그 정신 자체에 초점을 둔다. 안정성 자체의 메커니즘은 폰 노이만 안정성 해석과 CFL 조건 문서에서 따로 다루므로, 여기서는 수렴이라는 결과에 방점을 찍는다.

2. 일관성 · 안정성 · 수렴성

세 개념을 정확히 구분하는 것이 출발점이다.

• 일관성(consistency): 이산화된 방정식이 격자 간격 $h \to 0$에서 원래의 미분방정식으로 되돌아가는가? 이산화 과정에서 버린 절단오차(truncation error)가 0으로 가면 일관적이다. 즉 “우리가 푸는 방정식이 애초에 옳은 방정식인가”를 묻는다.
• 안정성(stability): 계산 중 발생하는 오차(반올림·초기 교란)가 시간이 지나며 증폭되지 않고 억제되는가? 불안정하면 오차가 지수적으로 폭발해 답이 발산한다.
• 수렴성(convergence): 실제 수치해가 참해로 가는가? 우리가 궁극적으로 원하는 것.

여기서 초심자가 흔히 착각하는 지점: 일관성만으로는 수렴하지 않는다. 방정식을 아무리 정확하게 이산화해도(일관적), 계산이 불안정하면 오차가 폭발해 절대 정답에 못 간다. 반대로 안정적이기만 하고 엉뚱한 방정식을 풀면(비일관적) 얌전하게 틀린 답으로 수렴한다.

3. 랙스 등가정리

이 세 개념을 하나로 묶는 것이 수치해석에서 가장 아름다운 정리 중 하나인 랙스 등가정리(Lax equivalence theorem)다.¹

적절하게 설정된(well-posed) 선형 초기값 문제에 대해, 일관적인 유한차분 도식이 수렴하기 위한 필요충분조건은 그 도식이 안정한 것이다.

한 줄로 줄이면:

$$\text{일관성} + \text{안정성} \iff \text{수렴성}$$

이 정리의 위력은 실용성에 있다. 수렴성을 직접 증명하는 것은 “무한히 세밀한 극한에서 참해와의 거리”를 다뤄야 해서 지독하게 어렵다. 그런데 랙스 정리 덕분에, 상대적으로 확인하기 쉬운 두 성질 — 일관성(테일러 전개로 절단오차 확인)과 안정성(폰 노이만 안정성 해석으로 증폭인자 확인) — 만 검증하면 수렴성이 공짜로 따라온다.² 실무자들이 “일단 CFL 조건 지키고 도식이 일관적이면 믿고 돌린다”고 하는 근거가 바로 이 정리다. 단, 비선형 문제에는 직접 적용되지 않는다는 점은 늘 유의해야 한다.

4. 수렴 차수와 수렴률

수렴한다는 것만으로는 부족하다. 얼마나 빨리 수렴하는지가 실전에서는 비용을 결정한다. 이산화 오차가 격자 간격 $h$에 대해

$$\|u_h - u\| \le C\, h^{\,p}$$

처럼 거동하면, 그 기법의 수렴 차수(order of accuracy)는 $p$다. $p=1$이면 1차 정확도(격자를 절반으로 줄이면 오차도 절반), $p=2$이면 2차 정확도(격자 절반이면 오차는 1/4). 차수가 높을수록 같은 격자로 더 정확한 답을 얻는다. 대부분의 상용 CFD 코드가 2차 정확도를 표준으로 삼는 이유이며, 스펙트럴 방법처럼 매끄러운 문제에서 지수적으로 수렴하는(spectral accuracy) 특급 기법도 있다.

실무에서 수렴 차수는 로그-로그 그래프로 확인한다. $\log(\text{오차})$ 대 $\log(h)$를 그리면 기울기가 곧 수렴 차수 $p$다. 참해를 모를 때는 격자를 체계적으로 세분화하며 답의 변화율로 차수를 추정하는데, 이것이 격자 수렴 연구(grid convergence study)이고, 리처드슨 외삽과 GCI(Grid Convergence Index)로 정량화한다.³ 이 절차는 검증 및 확인에서 “코드 검증”의 핵심을 이룬다.

5. 반복법의 선형·이차 수렴

이산화가 끝나면 남는 것은 거대한 대수방정식을 반복법으로 푸는 일이다. 여기서도 수렴 속도가 관건이다. 반복 $\mathbf{x}_k$가 해 $\mathbf{x}^*$로 갈 때, 오차 $e_k = \|\mathbf{x}_k - \mathbf{x}^*\|$의 줄어드는 방식으로 수렴 유형을 나눈다.

• 선형 수렴(linear): $e_{k+1} \le \rho\, e_k$ ($0<\rho<1$). 매 반복마다 오차가 일정 비율로 준다. 자코비·가우스-자이델 같은 정적 반복법, 크리로프 부분공간법의 기본 거동이 여기에 속한다. $\rho$가 작을수록(1에서 멀수록) 빠르다.
• 이차 수렴(quadratic): $e_{k+1} \le C\, e_k^2$. 오차의 유효자릿수가 매 반복마다 대략 두 배로 늘어난다. 뉴턴-랩슨법이 대표적이며, 정답 근처에서는 몇 번만 돌려도 기계정밀도까지 도달한다.⁴

이차 수렴은 압도적으로 빠르지만, 좋은 초기 추정값을 요구하고 매 반복에서 자코비안 행렬을 계산·역산해야 해서 반복당 비용이 크다. 선형 수렴은 느리지만 안정적이고 저렴하다. 그래서 실무에서는 처음엔 튼튼한 선형 수렴 기법으로 접근한 뒤 정답 근처에서 뉴턴법으로 갈아타는 하이브리드 전략을 즐겨 쓴다. “수렴은 신에게 맡긴다”는 자조가 CFD 현장에서 괜히 나온 게 아니다. 잔차 그래프가 얌전히 내려갈 때의 안도감은 겪어본 사람만 안다.

6. 관련 문서

• 폰 노이만 안정성 해석 · CFL 조건
• 반복법 · 뉴턴-랩슨법
• 격자 · 다중격자법
• 테일러 급수 · 수치미분
• 크리로프 부분공간법
• 검증 및 확인

7. Footnotes

1. Peter Lax와 Robert Richtmyer가 1956년에 증명했다. 랙스는 이 업적을 포함한 편미분방정식 수치해석 공헌으로 2005년 아벨상을 받았다. “일관성과 안정성만 챙기면 수렴은 덤”이라는 한 줄이 수치해석 강의 절반을 지탱한다. ↩

2. 그래서 이 정리를 “수치해석의 게으른 자를 위한 축복”이라 부르기도 한다. 어려운 수렴성 증명을 두 개의 쉬운 확인으로 우회하게 해주니까. ↩

3. 리처드슨 외삽은 서로 다른 격자의 결과를 조합해 격자 오차를 소거하고, 참해에 더 가까운 값과 실효 수렴 차수를 동시에 뽑아낸다. 이론상 2차인 도식이 실제로는 1.7차쯤 나오는 일이 흔한데, 격자 품질이나 경계 처리가 발목을 잡은 결과다. ↩

4. 이차 수렴을 처음 목격하면 다소 소름 돋는다. 오차가 $10^{-2} \to 10^{-4} \to 10^{-8} \to 10^{-16}$처럼 제곱으로 쪼그라들어서, 3~4번 반복이면 더 이상 개선할 자릿수가 없어진다. 물론 초기값을 잘못 주면 엉뚱한 근으로 튀거나 발산하는 게 함정. ↩