메시 독립성 연구

1. 개요

메시 독립성 연구 Mesh Independence Study
다른 이름	격자 수렴 연구 (grid convergence study)
목적	해가 격자에 의존하지 않는 영역에 도달했음을 입증
최소 격자 수	3개 (수렴 차수 추정에 필요한 최소)
권장 세분 비율	r ≥ 1.3 (Celik et al., 2008)
정량화 도구	격자 수렴 지수 (GCI)
상위 개념	검증 및 확인 — 솔루션 검증

메시 독립성 연구(mesh independence study)는 격자를 체계적으로 세분화해 가며 관심 있는 해가 더 이상 격자에 의존하지 않는 지점을 확인하는 절차다. 격자 수렴 연구(grid convergence study)라고도 부른다. 수치해는 격자가 성기면 절단오차 때문에 격자에 따라 값이 출렁이지만, 격자를 충분히 조밀하게 하면 특정 값으로 수렴한다. 이 수렴한 값이 이산화의 관점에서는 “진짜 답”에 가장 가깝고, 그보다 성긴 격자의 결과는 그저 격자가 만들어낸 인공물일 수 있다.¹

CFD·구조해석 보고서에서 “메시 인디펜던스 했냐?”는 리뷰어의 단골 질문이자, 안 했으면 결과 전체를 불신당하는 통과의례다. 검증 및 확인(V&V)에서 이산화 오차를 다루는 가장 기본적인 무기이기도 하다.

이 문서는 스터디를 어떻게 설계하고 무엇을 조심하는가를 다룬다. 그렇게 얻은 세 값에서 오차 대역을 뽑아내는 공식과 보고 양식은 격자 수렴 지수 문서가, 애초에 그 세 격자를 만드는 알고리즘과 도구는 메시 생성 문서가 맡는다.

2. 왜 필요한가 — 격자가 답을 바꾼다

수치해석의 불편한 진실은, 격자를 바꾸면 답이 바뀐다는 것이다. 성긴 격자로 계산한 항력계수와 조밀한 격자로 계산한 항력계수가 다르다면, 둘 중 적어도 하나는 틀렸거나 둘 다 틀렸다. 격자에 따라 값이 계속 변한다는 건 아직 이산화 오차가 지배하고 있다는 신호다.

메시 독립성 연구의 목표는 “격자를 더 조밀하게 해도 결과가 실질적으로 변하지 않는” 영역에 도달했음을 보이는 것이다. 그 영역에 들어가면 결과를 격자가 아니라 물리(모델·경계조건)의 산물로 신뢰할 수 있다. 반대로 이 확인 없이 낸 결과는 “이 값은 이 격자가 우연히 만든 값일 뿐”이라는 반박에 무방비다.²

아래 시뮬은 같은 정상상태 확산 문제를 격자 해상도만 바꿔 가며 다시 푸는, 스터디의 가장 단순한 형태다.

3. 어떻게 하나 — 절차

교과서적인 절차는 이렇다.

1. 관심 물리량(QoI)을 정한다. 항력계수, 최대 응력, 압력강하, 벽면 열유속 등. 전체 필드가 아니라 스칼라 하나로 수렴을 판정하는 게 실용적이다.
2. 최소 3개의 격자를 만든다. 각 단계에서 격자 간격을 일정 비율 $r$로 줄인다. 3개가 최소인 이유는 수렴률을 추정하려면 세 점이 필요해서다.³
3. 각 격자로 해를 구하고 QoI를 뽑는다. 이때 반복 수렴 잔차는 격자마다 같은 수준까지 떨어뜨려야 한다.
4. QoI를 격자 크기에 대해 그린다. 조밀해질수록 값이 평평해지면 수렴한 것.
5. 정량화한다. 격자 수렴 지수(GCI)로 오차 대역을 계산해 보고한다.

3.1. 세분 비율 r 을 얼마로 잡을 것인가

전통적으로는 $r = 2$, 즉 각 방향 셀 수를 두 배로 하는 방식을 많이 썼다. 신호가 가장 깨끗하다는 장점이 있지만 비용이 문제다 — 각 방향 2배는 2차원에서 총 셀 수 4배, 3차원에서 8배이고, 세 단계면 마지막 격자가 첫 격자의 64배다.

Celik et al. (2008) 의 권고는 $r$ 을 2로 고정하는 대신 $r \ge 1.3$ 만 지키라는 것이다. 하한이 1.3인 이유는 이론이 아니라 신호 대 잡음에 있다. $r$ 이 1에 가까우면 격자 사이의 해 차이가 반복 수렴 잔차·라운드오프와 비슷한 크기로 쪼그라들어, 거기서 뽑은 관측 차수가 잡음을 증폭한 값이 된다. 관측 차수가 갑자기 6이나 0.1 같은 값으로 튀는 스터디는 대개 세분이 너무 소심했던 경우다.

비정수 비율이 허용되면 적응 격자 세분화나 셀 크기 함수를 쓰는 비구조 메셔에서 특히 편하다 — 크기 함수 전체를 1.3으로 나누기만 하면 되기 때문. 대신 “각 방향 2배”처럼 자명하지 않으므로, 대표 격자 간격을 명시적으로 정의해 보고해야 한다. 3차원 비구조 격자의 표준 정의는 셀 부피 평균이다.

$$h = \left[ \frac{1}{N} \sum_{i=1}^{N} \Delta V_i \right]^{1/3}$$

이 정의를 쓰면 셀 수 $N$ 만 알아도 $r_{21} = h_2/h_1$ 을 계산할 수 있고, 사면체와 육면체가 섞인 하이브리드 격자에도 그대로 적용된다.

4. 수렴 차수와 GCI

세 격자 해 $f_1$(가장 조밀), $f_2$, $f_3$(가장 성김)과 세분화 비율 $r$이 있으면, 관측 수렴 차수(observed order of accuracy) $p$를 다음에서 추정한다.

$$p = \frac{\ln\left| \dfrac{f_3 - f_2}{f_2 - f_1} \right|}{\ln r}$$

절댓값이 붙어 있는 것이 중요하다. 세 해가 단조롭게 수렴하지 않고 출렁이면 $(f_3-f_2)/(f_2-f_1)$ 이 음수가 되어 절댓값 없이는 로그의 정의역을 벗어난다. 물론 절댓값을 씌워 숫자를 뽑았다고 해서 그 $p$ 가 의미 있어지는 것은 아니다 — 비가 음수라는 사실 자체가 “점근 영역 밖”이라는 경고이며, 이 경우의 처리는 격자 수렴 지수 문서의 일반형($q(p)$ 항과 부호 $s$)에서 다룬다.

이 관측 $p$가 도식의 이론 차수(예: 2차 도식이면 $p \approx 2$)와 맞으면 “점근 수렴 영역(asymptotic range)에 들어왔다”고 판단한다. 관측 차수가 이론값과 크게 다르면 아직 격자가 너무 성기거나, 코드/경계조건에 문제가 있다는 경고다. 후자가 의심되면 격자를 더 찍기 전에 제조해법(MMS)으로 코드 검증부터 하는 것이 순서다.

리처드슨 외삽으로 격자 무한대 극한의 추정값 $f_{h=0}$도 얻을 수 있는데, 이 아이디어의 뿌리는 리처드슨 외삽법이다. 그리고 이 추정에 안전계수를 곱해 표준화된 오차 대역으로 만든 것이 격자 수렴 지수(GCI)로, Roache가 정립했고 학술지 투고 시 사실상 표준으로 요구된다.⁴

5. 흔한 함정

• 점근 영역 밖에서 판정: 격자가 너무 성기면 오차 급수의 고차항이 살아 있어 관측 차수가 엉망이 된다. 세 격자 값이 단조롭게 수렴하지 않으면(진동하면) 점근 영역이 아니다.
• QoI마다 수렴 속도가 다름: 항력은 수렴했는데 벽 근처 국소 열유속은 아직 출렁일 수 있다. 가장 까다로운 물리량 기준으로 판정해야 한다.
• 경계층 미해상: 벽 함수를 쓰는 난류 모델링에서는 $y^+$가 격자에 따라 달라져, 격자를 바꾸면 벽 모델 자체가 바뀌는 함정이 있다. 순수한 이산화 수렴이 아니라 모델 스위칭이 섞여 해석을 오염시킨다. 벽함수 문서가 이 $y^+$ 구간 전환을 자세히 다룬다.
• 한 방향만 세분화: 격자를 등방적으로 줄여야 한다. 한 방향만 조밀화하면 다른 방향 오차가 그대로 남아 수렴이 위장된다.
• 반복 수렴 잔차를 안 맞춤: 조밀 격자만 잔차를 덜 떨어뜨리면, 격자 세분으로 줄어든 이산화 오차를 반복 오차가 도로 채워 넣는다. 세 격자의 잔차 수준을 같이 적어야 하는 이유다.
• 격자마다 다른 메셔 설정: 프리즘 층 수나 표면 세분 레벨을 격자마다 손보면 그건 세분화가 아니라 다른 격자 세 개다. 하나의 크기 함수를 스칼라배 하는 것이 체계적 세분화의 정의다.

6. 실무에서의 위치

메시 독립성 연구는 “결과를 믿어도 되는가”를 스스로에게 묻는 최소한의 성실성이다. 완벽한 격자 독립은 무한 격자에서만 오므로, 현실적으로는 “QoI 변화가 허용 오차(예: 1%) 이내로 들어오는 격자”를 채택하고 그 오차를 GCI로 명시한다. 이것이 검증 및 확인의 검증(verification) 단계 — 모델이 물리와 맞는지(validation) 따지기 전에, 코드가 방정식을 제대로 푸는지부터 확인하는 것이다. 실험값과의 비교는 그다음 단계이고, 이산화 오차를 모르는 채로 실험과 비교하면 모델이 맞아서 맞은 건지 오차 두 개가 상쇄돼 맞은 건지 알 수 없다.

한 줄 요약: “격자를 두 배로 조밀하게 했는데 답이 안 변하면, 그때 비로소 그 답을 물리라고 부를 자격이 생긴다.”

7. 관련 문서

• 격자 수렴 지수
• 리처드슨 외삽법
• 절단오차
• 검증 및 확인
• 메시 생성
• 적응 격자 세분화
• 전산유체역학
• 불확실성 정량화
• 벽함수
• 제조해

8. Footnotes

1. “성긴 격자로 뽑은 예쁜 그림”의 함정. 무지개 컨투어는 격자가 아무리 엉성해도 그럴듯하게 나온다. 그림이 예쁜 것과 답이 맞는 것은 전혀 별개다. ↩

2. 학회 발표 후 Q&A에서 “격자 독립성 확인하셨나요?”는 사실상 “당신 결과 믿어도 됩니까?”의 정중한 번역이다. 대답을 못 하면 발표 전체의 신뢰도가 흔들린다. ↩

3. 두 격자만으로는 “수렴하는 중인지, 우연히 두 값이 가까운지” 구별할 수 없다. 세 점이 있어야 수렴이 단조로운지, 차수가 얼마인지 말할 수 있다. 그래서 최소 3개는 협상 불가. 두 격자로 때우면 GCI 안전계수가 1.25에서 3.0으로 뛰는 것도 같은 이유다. ↩

4. Roache, P. J. (1994). “Perspective: A Method for Uniform Reporting of Grid Refinement Studies.” Journal of Fluids Engineering 116(3), 405–413. “각자 다르게 보고하지 말고 하나의 지표로 통일하자”는 취지였고, 실제로 표준이 됐다. GCI 없는 CFD 논문은 리뷰어의 첫 번째 반려 사유가 되곤 한다. ↩