격자 수렴 지수

1. 개요

격자 수렴 지수 Grid Convergence Index
약칭	GCI
제안	1994년, Patrick J. Roache
기반 이론	리처드슨 외삽법
권장 절차	Celik et al. (2008) — ASME J. Fluids Eng. 편집 방침
표준	ASME V&V 20-2009 (수치 불확실성 항에서 GCI 사용)
권장 세분 비율	r ≥ 1.3
상위 개념	검증 및 확인 — 솔루션 검증

격자 수렴 지수(Grid Convergence Index, GCI)는 서로 다른 해상도의 격자 3개(또는 최소 2개)에서 얻은 수치해를 이용해, “이 계산의 이산화 오차가 대략 몇 퍼센트인가”를 하나의 숫자로 정량화하는 지표다. 1994년 로치(Patrick J. Roache)가 제안했고, 지금은 전산유체역학·구조해석 논문 심사에서 사실상 “격자 무관성 확인했나요?”에 대한 표준 답안으로 요구된다.¹

GCI의 존재 이유는 단순하다. “격자를 더 촘촘히 했더니 값이 별로 안 바뀌더라”는 말은 감(感)이지 증거가 아니다. GCI는 이 감을 리처드슨 외삽법에 안전계수를 곱한 형태로 표준화해서, 서로 다른 연구자·다른 코드가 내놓은 격자 민감도 보고를 같은 잣대로 비교할 수 있게 만든다. 이 문서는 GCI의 공식과 계산 절차 자체에 집중하며, GCI가 V&V 전체 체계에서 어떤 자리를 차지하는지는 검증 및 확인 문서를 참고할 것 — 두 문서의 역할 분담은 맨 아래 절에서 다시 정리한다.

1.1. 두 개의 “표준”을 헷갈리지 말 것

GCI 문헌을 뒤지다 보면 Celik et al. (2008) 과 ASME V&V 20-2009 가 한 덩어리로 인용되는 경우가 흔한데, 둘은 다른 문서다.

• Celik et al. (2008) 은 ASME Journal of Fluids Engineering 의 편집 방침(editorial policy statement) 이다. 저널에 투고하려면 따라야 하는 5단계 권장 절차와 보고 양식을 규정한다. 문헌 번호는 논문이 아니라 130(7), 078001 이라는 정책 문서 번호다.
• ASME V&V 20-2009 는 별도로 제정된 표준(standard) 으로, 초점은 확인(validation)의 불확실성 $u_{\text{val}}$ 을 조립하는 데 있다. 그 안의 수치 불확실성 항 $u_{\text{num}}$ 을 채우는 수단으로 GCI 를 쓸 뿐, GCI 자체를 정의한 문서가 아니다.

즉 “GCI 를 어떻게 계산·보고하는가”의 출처는 Celik et al. (2008), “그 값을 실험 비교에 어떻게 끼워 넣는가”의 출처가 V&V 20-2009 다. 심사자가 어느 쪽을 물었는지에 따라 인용할 문서가 달라진다.

2. 리처드슨 외삽: 무한 격자로 가는 다리

이산화 오차는 격자 간격 $h$에 대해 보통 거듭제곱 꼴로 줄어든다.

$$f(h) = f_{\text{exact}} + \alpha h^{p} + O(h^{p+1})$$

여기서 $p$는 이산화 기법의 수렴 차수, $\alpha$는 상수다. 서로 다른 두 격자 간격 $h_1 < h_2$에서 얻은 해 $f_1, f_2$가 있으면, 이 관계식을 연립해서 $h \to 0$일 때의 값을 외삽으로 추정할 수 있다 — 이것이 리처드슨 외삽법이다.

$$f_{\text{exact}} \approx f_1 + \frac{f_1 - f_2}{r^{p} - 1}, \qquad r = \frac{h_2}{h_1}$$

Celik et al. (2008) 은 같은 값을 분수 하나로 묶은 꼴로 적는데, 통분하면 완전히 같은 식이다.

$$f_{\text{ext}}^{21} = \frac{r_{21}^{p} f_1 - f_2}{r_{21}^{p} - 1}$$

문제는 이 외삽값이 점 추정치일 뿐 오차 범위를 주지 않는다는 것. “얼마나 확신할 수 있는가”에 답하려면 안전계수를 곱한 GCI가 필요하다.

3. GCI 공식과 안전계수

세 개의 체계적으로 세분된 격자(조밀 1, 중간 2, 성긴 3, $h_1 < h_2 < h_3$)에서 얻은 해 $f_1, f_2, f_3$가 있다고 하자. 세분 비율은 $r_{21} = h_2/h_1$, $r_{32} = h_3/h_2$다. 관측 수렴 차수 $p$는 세 값의 차이로부터 역산한다.

$$p = \frac{\ln\left| \dfrac{f_3 - f_2}{f_2 - f_1} \right|}{\ln r}$$

(세분 비율 $r$이 격자 사이에서 일정하다고 가정한 단순형. $r_{21} \neq r_{32}$인 일반적인 경우는 아래 절의 음함수 형태를 쓴다.) 이 $p$를 이용해 조밀 격자(1)에서의 GCI를 다음과 같이 정의한다.

$$\mathrm{GCI}_{21} = \frac{F_s \, |e_a|}{r^{p} - 1}, \qquad e_a = \left| \frac{f_1 - f_2}{f_1} \right|$$

$e_a$는 조밀 격자와 중간 격자 사이의 상대 근사 오차, $F_s$는 안전계수(safety factor)다. Roache는 3개 이상의 격자로 관측 차수 $p$까지 확인한 신중한 스터디에는 $F_s = 1.25$를, 단 2개 격자만 비교해 이론 차수를 가정하고 넘어가는 약식 스터디에는 $F_s = 3.0$을 권고한다. 안전계수가 3배나 차이 나는 이유는 명확하다 — 격자를 겨우 두 개만 찍고 “선형으로 수렴하겠지”라고 가정하는 것은 도박에 가깝기 때문이다.²

수렴이 **점근 영역(asymptotic range)**에 들어왔는지도 확인해야 하는데, 다음 비율이 1에 가까울수록 신뢰할 수 있다.

$$\frac{\mathrm{GCI}_{32}}{r^{p}\,\mathrm{GCI}_{21}} \approx 1$$

이 비율이 1에서 크게 벗어나면 격자가 아직 점근 영역에 도달하지 못했다는 뜻이고, 이때는 $p$ 자체를 못 믿는다 — 격자를 더 촘촘히 찍어야 한다.

3.1. 세분 비율은 왜 1.3 이상인가

Celik et al. (2008) 은 세분 비율을 $r \ge 1.3$ 으로 잡을 것을 권고한다. 근거는 이론이 아니라 신호 대 잡음이다. $r$ 이 1에 가까우면 격자 사이의 해 차이 $\varepsilon_{21} = f_2 - f_1$ 이 반복 수렴 잔차·라운드오프·후처리 보간 오차와 같은 크기로 쪼그라들어, $\ln|\varepsilon_{32}/\varepsilon_{21}|$ 이 잡음을 증폭한 값이 되어 버린다. 관측 차수가 7이니 0.2니 하는 말도 안 되는 값으로 튀는 스터디는 대개 여기서 온다.

반대로 $r$ 을 정수 2로 고정할 필요도 없다는 것이 이 권고의 또 다른 요점이다. 3차원에서 $r=2$ 는 셀 수가 8배라 세 단계만 해도 64배가 되는데, $r=1.3$ 이면 한 단계에 2.2배라 같은 예산으로 격자를 더 많이 찍을 수 있다. 비정수 비율은 비구조 격자에서 셀 크기 함수만 스칼라배 하면 되므로 오히려 자연스럽다.

3.2. 세분 비율이 일정하지 않은 일반형

실제 메시 생성에서 $r_{21}$ 과 $r_{32}$ 를 정확히 같게 맞추기는 어렵다. Celik et al. (2008) 의 일반형은 $p$ 에 대한 음함수 방정식이라 반복으로 푼다.

$$p = \frac{1}{\ln r_{21}} \Big| \ln\left| \varepsilon_{32}/\varepsilon_{21} \right| + q(p) \Big|$$ $$q(p) = \ln\!\left( \frac{r_{21}^{p} - s}{r_{32}^{p} - s} \right), \qquad s = \operatorname{sgn}\!\left( \varepsilon_{32}/\varepsilon_{21} \right)$$

여기서 $\varepsilon_{21} = f_2 - f_1$, $\varepsilon_{32} = f_3 - f_2$ 다. $r_{21} = r_{32}$ 이면 $q(p) = 0$ 이 되어 앞의 단순형으로 되돌아간다 — 검산해 보면 바로 보인다. 초기값 $p_0$ 을 넣고 우변에 대입하기를 반복하는 고정점 반복이면 보통 열 번 안쪽에 수렴한다.³

$s$ 는 단순한 부호가 아니라 경고등이기도 하다. $\varepsilon_{32}/\varepsilon_{21} < 0$ 이면 세 해가 한 방향으로 줄지 않고 출렁였다는 뜻, 즉 진동 수렴(oscillatory convergence)이다. 이때 거듭제곱 오차 모형 자체가 전제를 잃으므로 GCI 값을 액면 그대로 믿으면 안 된다. 관측 차수가 이론 차수에서 크게 벗어날 때도 마찬가지여서, Celik et al. 은 이런 경우 관측 $p$ 대신 이론 차수를 고정해 쓰고 그 사실을 명시할 것을 권한다.

4. 실무 절차 — 3격자 스터디 예시

다음은 순전히 절차를 보여주기 위한 가상의 예시다. 항력계수 $C_D$를 계산하는 CFD 해석에서 격자 간격 $h_1 < h_2 < h_3$을 일정 비율 $r = 1.3$으로 세분했다고 하자.

격자	상대 간격	$C_D$
1 (조밀)	$h_1$	0.3125
2 (중간)	$1.3\,h_1$	0.3168
3 (성긴)	$1.69\,h_1$	0.3247

$\varepsilon_{21} = f_2 - f_1 = 0.0043$, $\varepsilon_{32} = f_3 - f_2 = 0.0079$이므로

$$p = \frac{\ln(0.0079/0.0043)}{\ln 1.3} \approx \frac{0.6083}{0.2624} \approx 2.32$$

$r^{p} = 1.3^{2.32} \approx 1.837$ 이므로 $r^p - 1 \approx 0.837$. 외삽 값은

$$f_{\text{ext}} \approx 0.3125 - \frac{0.0043}{0.837} \approx 0.3125 - 0.0051 = 0.3074$$

그리고 $e_a = |0.0043/0.3125| = 0.01376$ 이므로

$$\mathrm{GCI}_{21} = \frac{1.25 \times 0.01376}{0.837} \approx 0.0205 = 2.1\%$$

즉 “조밀 격자에서의 항력계수는 대략 ±2.1%의 이산화 오차를 가진다”는 정량적 문장이 나온다. 이 숫자를 논문·보고서에 ”$C_D = 0.3125$, GCI $= 2.1\%$” 형태로 박아두면, 다른 사람이 그 신뢰도를 즉시 판단할 수 있다. “격자가 다 했다”는 자조 섞인 드립도, 사실 이 숫자를 계산해서 뒷받침하지 못하면 그냥 허풍이다.

참고로 $\varepsilon_{32}/\varepsilon_{21} = 0.0079/0.0043 > 0$ 이라 $s = +1$, 그리고 $r_{21} = r_{32} = 1.3$ 이라 $q(p) = \ln\!\big((1.3^p-1)/(1.3^p-1)\big) = 0$ — 일반형을 써도 같은 $p$ 가 나온다는 것을 확인할 수 있다.

5. 무엇을 보고해야 하는가

Celik et al. (2008) 이 요구하는 보고 양식은 숫자 하나가 아니라 표 하나다. 최소한 다음이 들어가야 심사에서 되묻히지 않는다.

• 세 격자의 셀 수 $N_1, N_2, N_3$ 와 대표 격자 간격 $h_i$. 3차원에서 $h = \left[ \frac{1}{N}\sum_{i=1}^{N} \Delta V_i \right]^{1/3}$ 처럼 셀 부피 평균으로 정의하면 비구조 격자에도 쓸 수 있다.
• 세분 비율 $r_{21}, r_{32}$ (둘 다 1.3 이상인지 보이는 것이 핵심)
• 각 격자의 관심 물리량 $f_1, f_2, f_3$
• 관측 차수 $p$ 와 그것을 이론 차수와 비교한 한 줄
• 외삽값 $f_{\text{ext}}^{21}$, 근사 상대 오차 $e_a^{21}$, 외삽 상대 오차 $e_{\text{ext}}^{21}$, 그리고 $\mathrm{GCI}_{21}$

“GCI = 2.1%” 한 줄만 적고 나머지를 생략하면, 그 2.1%가 점근 영역에서 나온 값인지 진동하는 세 점에서 억지로 뽑은 값인지 아무도 구별할 수 없다. 표를 통째로 싣는 것이 국룰인 이유다.

6. 이 문서와 “검증 및 확인” 문서의 역할 분담

검증 및 확인 문서는 V&V 전체 체계 — 검증과 확인의 구분, 코드 검증과 솔루션 검증의 위치, 제조해법(MMS), 불확실성 정량화(UQ)까지 아우르는 큰 그림을 다룬다. GCI는 그 안에서 솔루션 검증(solution verification)의 대표 도구로 한 문단 언급될 뿐이다. 반면 이 문서는 그 한 문단의 내용을 실제로 계산할 수 있도록 공식·절차·수치 예시를 풀어놓은 각론이다. “왜 GCI가 필요한가”가 궁금하면 V&V 문서로, “GCI를 어떻게 계산하는가”가 궁금하면 이 문서로 오면 된다.

계산에 넣을 세 격자를 어떻게 만드는가는 또 다른 문제인데, 그쪽은 메시 생성과 메시 독립성 연구가 다룬다. 특히 메시 독립성 연구 문서는 GCI 를 쓰기 전에 지켜야 할 실무 조건(등방 세분화, QoI 선정, 벽함수 스위칭 함정)을 정리해 두었으므로 먼저 읽는 편이 낫다.

7. 관련 문서

• 검증 및 확인
• 리처드슨 외삽법
• 메시 독립성 연구
• 메시 생성
• 전산유체역학
• 격자
• 수렴성
• 적응 격자 세분화
• 절단오차
• 제조해
• 불확실성 정량화

8. Footnotes

1. Roache, P. J. (1994). “Perspective: A Method for Uniform Reporting of Grid Refinement Studies”. J. Fluids Eng. 116(3), 405–413. 이 논문 이전에는 각 연구자가 제멋대로 격자 수렴을 보고해서, 리뷰어들이 “그래서 몇 퍼센트인데요?”라고 물으면 대답이 “촘촘히 하니까 비슷해서요” 수준이었다. ↩

2. 안전계수 1.25는 “충분히 신중하게 스터디했다”는 전제 위에 붙는 보너스다. 격자를 대충 두 개만 돌려놓고 안전계수만 1.25로 적어내면, 리뷰어는 그 논문을 신뢰하는 대신 반려 메일부터 쓴다. 국룰: 격자 개수를 아끼면 안전계수가 아니라 신뢰도가 깎인다. ↩

3. 음함수 $p$ 방정식의 고정점 반복이 발산하는 일도 가끔 있는데, 거의 예외 없이 세 해가 진동해서 $s = -1$ 이 된 경우다. 반복이 안 풀리면 알고리즘을 의심하기 전에 $\varepsilon_{32}/\varepsilon_{21}$ 의 부호부터 보자. 부호가 음수면 그건 수치 문제가 아니라 격자가 점근 영역 밖에 있다는 물리적 통보다. ↩