스펙트럴 방법

1. 개요

스펙트럴 방법 Spectral Method
분야	수치해석 × 전산유체역학 × 계산물리
핵심 아이디어	해를 전역 기저함수의 합으로 전개
대표 기저	푸리에, 체비셰프, 르장드르
수렴 특성	매끄러운 해에서 지수 수렴
깁스 오버슈트	점프 크기의 8.95% — N을 늘려도 안 줄어든다
탈별칭	오재그 2/3 규칙 (|k| > N/3 절단)
관련 기법	유한요소법, 유한차분법

유한차분법이 해를 점으로 근사한다면, 스펙트럴 방법은 해를 노래로 근사한다.

스펙트럴 방법(Spectral method)은 미분방정식의 해를 전역적으로 정의된 매끄러운 기저함수들의 선형 결합으로 전개하여 근사하는 수치해석 기법이다. 유한차분법이 국소적인 점 몇 개로 미분을 근사하는 것과 달리, 스펙트럴 방법은 도메인 전체에 걸친 사인·코사인이나 직교 다항식을 기저로 삼아 미지의 계수(스펙트럼)를 구한다. 미지 함수 $u(x)$를 다음과 같이 쓴다.

$$u(x) \approx u_N(x) = \sum_{k=0}^{N} \hat{u}_k \,\phi_k(x)$$

여기서 $\phi_k$가 기저함수, $\hat{u}_k$가 우리가 풀 계수다. 기저함수가 도메인 전체에 퍼져 있기 때문에 각 계수가 해 전역의 정보를 담는다. 이 “전역성”이 스펙트럴 방법의 힘이자 약점이다.

2. 지수 수렴 — 이게 전부다

스펙트럴 방법을 쓰는 단 하나의 이유는 정확도다. 유한차분법이나 유한요소법은 격자 간격 $h$에 대해 오차가 $O(h^p)$로 줄어드는 대수적 수렴(algebraic convergence)을 보인다. 즉 정확도 한 자리를 더 얻으려면 격자를 몇 배씩 늘려야 한다.

반면 해가 무한히 매끄러운(analytic) 경우, 스펙트럴 방법의 오차는

$$\|u - u_N\| \sim O(e^{-cN})$$

즉 항 개수 $N$에 대해 지수적으로 줄어든다. 이것을 지수 수렴(exponential convergence) 또는 스펙트럴 정확도(spectral accuracy)라 부른다. 항을 몇 개만 더 얹어도 오차가 자릿수 단위로 뚝뚝 떨어진다. 난류 직접수치모사(DNS)처럼 넓은 파수 대역을 정확히 담아야 하는 문제에서 스펙트럴 방법이 사실상 표준인 이유다.

물론 공짜는 없다. 이 마법은 해가 매끄러울 때만 작동한다. 불연속이 하나라도 끼면 파국이 온다.

2.1. 검산: 미분 하나로 갈리는 승부

주기 구간 $[0, 2\pi)$ 에서 $u = e^{\sin x}$ 의 도함수를 두 방법으로 계산해 최대 오차를 비교했다. 푸리에 스펙트럴 미분($\partial_x \to ik$, 고속 푸리에 변환 사용)과 2차 중심차분이다.

$N$	푸리에 스펙트럴	2차 중심차분
8	4.32e-3	3.40e-1
16	1.76e-7	9.36e-2
32	2.89e-15	2.58e-2
64	1.07e-14	6.51e-3
256	5.53e-14	4.09e-4

격자점 32개에서 스펙트럴은 이미 기계 정밀도에 도달한다. 같은 정확도를 2차 차분으로 얻으려면 $N$ 을 $10^7$ 규모로 올려야 하는데, 표의 차분 열은 $N$ 을 두 배로 할 때마다 오차가 4배 줄어드는 $O(h^2)$ 를 정확히 따르므로 이건 계산이 아니라 산수다. $N \ge 32$ 에서 스펙트럴 오차가 더 안 줄고 $10^{-14}$ 언저리에서 맴도는 것도 정상이다 — 거기서부터는 이산화 오차가 아니라 반올림이 바닥을 깔고 있다.

2.2. 검산: 매끄러움이 깨지면

같은 마법이 왜 조건부인지는 체비쇼프 계수 $a_N$ 의 감쇠를 보면 된다.

$N$	$e^x$ (해석함수)	$\vert x\vert^3$ ($C^2$ 함수)
8	9.96e-8	2.23e-3
16	0 (정확히)	1.23e-4
32	5.55e-17	7.46e-6
64	0 (정확히)	4.63e-7

해석함수는 $N=16$ 에서 계수가 배정밀도 0으로 떨어지는 반면, 2계 도함수까지만 연속인 $|x|^3$ 은 $N$ 이 두 배 될 때마다 계수가 16배 줄 뿐이다($O(N^{-4})$, 표의 비가 18.1 → 16.5 → 16.1). 지수 수렴이 대수 수렴으로 내려앉은 것이고, 이게 “매끄러운 해에서만”의 실체다. 일반적인 정리는 “$\nu$계 도함수가 유계변동이면 계수가 $O(N^{-\nu-1})$” 이고, $|x|^3$ 은 3계 도함수가 계단함수($\nu=3$)라 $N^{-4}$ 가 나온 것이다.

3. 기저 선택 — 푸리에냐 체비셰프냐

기저함수 선택은 도메인의 경계 조건이 결정한다.

• 푸리에 기저($e^{ikx}$): 주기 경계 조건에서 압도적으로 유리하다. 미분이 곱셈으로 바뀌고($\partial_x \to ik$), 고속 푸리에 변환(FFT)으로 $O(N \log N)$에 변환이 된다. 균질 난류처럼 주기적 정육면체 도메인에서 쓴다.
• 체비쇼프 다항식($T_k(x) = \cos(k\arccos x)$): 비주기 경계에서 표준. 벽이 있는 유동(채널 난류 등)에서 쓴다. 체비쇼프 점은 경계 근처에 몰려 있어 경계층 해상에 유리하고, 룽게 현상(Runge phenomenon)이라는 다항식 보간의 고질병을 회피한다. 게다가 $x = \cos\theta$ 치환으로 체비쇼프 급수가 코사인 급수가 되므로 FFT를 그대로 쓸 수 있다.
• 르장드르 다항식: 스펙트럴 요소법에서 특히 사랑받는다. 가중치 1로 직교라 갈레르킨 약형식의 질량행렬이 깔끔하고, 가우스-로바토 구적점과 절점을 일치시키면 질량행렬이 아예 대각이 되기 때문.

비주기 문제에서 절점을 균등 격자가 아니라 체비쇼프 점(경계에 몰린 점)에 찍는 이유는, 균등하게 찍힌 점에서 고차 다항식 보간을 하면 구간 양 끝에서 해가 미친 듯이 진동하는 룽게 현상이 나타나기 때문이다.¹ 주기 문제의 푸리에 기저는 사정이 다르다 — 거기선 균등 격자가 정답이고, 삼각함수 보간에는 룽게 현상이 없다. “균등 격자가 나쁘다”가 아니라 “비주기 구간에서 고차 다항식을 균등 격자에 얹는 게 나쁘다” 가 정확한 진술이다(보간과 근사 문서에 르베그 상수로 잰 실측이 있다).

3.1. 검산: 체비쇼프 미분행렬은 차수를 올릴수록 정확해지는가

기저 선택만큼 자주 물리는 함정이 “차수를 올리면 언제나 더 정확하다”는 믿음이다. 체비쇼프 미분행렬 $D_N$ 으로 $u = e^x \sin 5x$ 의 도함수를 계산해 보면(대각 성분은 행합이 0이 되도록 보정한 표준 구성):

$N$	최대 오차
16	2.13e-6
24	5.51e-14
64	2.43e-12
256	1.39e-11

$N=24$ 에서 기계 정밀도를 찍고, 그 뒤로는 오차가 도로 커진다. 체비쇼프 미분행렬의 성분 크기가 $O(N^2)$ 로 자라 반올림이 같이 증폭되기 때문이다. 실측 증가는 $N$ 을 8배 키운 32→256 구간에서 91배($\sim N^{1.6}$)로, $O(N^2)$ 상한보다는 완만하다 — 대각 성분을 행합으로 보정하는 관행(negative sum trick)이 최악을 깎아 주기 때문이다. 정확도가 필요해서 차수를 더 올리려는 순간, 남은 이득은 없고 반올림만 늘어난다 — 이 지점이 곧 “이제 요소를 쪼갤 차례”라는 신호다.

4. 갈레르킨이냐 콜로케이션이냐

계수 $\hat{u}_k$를 실제로 결정하는 방식에도 두 학파가 있다.

• 갈레르킨(Galerkin) 방법: 방정식의 잔차가 모든 기저함수와 직교하도록 요구한다. 수학적으로 우아하고 안정적이지만, 비선형 항이 있으면 계수 공간에서 합성곱(convolution)이 생겨 $O(N^2)$ 으로 계산이 폭발한다.
• 의사스펙트럼법(pseudospectral) / 콜로케이션 방법: 비선형 항을 물리 공간에서 그냥 곱한다. 미분은 스펙트럴 공간에서, 곱셈은 물리 공간에서 — FFT로 두 공간을 오가며 $O(N\log N)$ 에 처리한다. 나비에-스토크스 대류항 $u \partial_x u$ 같은 비선형이 있으면 거의 무조건 이쪽을 쓴다. 잔차를 고른 점에서만 0으로 만든다는 발상 자체는 직교 배치법과 같은 뿌리다.

의사스펙트럼법에는 별칭(aliasing)이라는 고약한 함정이 있다. 물리 공간에서 두 파를 곱하면 표현 가능한 최대 파수를 넘는 고주파가 생기는데, 이게 접혀 들어와(alias) 저주파를 오염시킨다. 이걸 막으려고 $|k| > N/3$ 을 잘라내는 “3분의 2 규칙(2/3 rule)“을 쓴다.²

4.1. 검산: 2/3 규칙이 실제로 별칭을 없애는가

$N=64$ 격자에서 최대 파수 $k_{\max}$ 까지 채운 무작위 실수장 $u$ 를 만들고, 물리 공간에서 그냥 제곱한 $u^2$ 의 스펙트럼을 3/2배 영채움으로 정확히 계산한 값과 비교했다($N/3 = 21$).

$k_{\max}$	전 대역 상대오차	유효대역($\vert k\vert \le 21$) 오차	2/3 절단 후 유효대역
10	2.3e-16	2.3e-16	2.4e-16
21 ($=N/3$)	1.23e-1	3.5e-16	1.7e-16
31 (대역 가득)	1.75e-1	1.57e-1	1.6e-16

가운데 줄이 2/3 규칙의 정체를 그대로 보여준다. $k_{\max} = N/3$ 일 때도 별칭은 생긴다 — 전 대역으로 재면 오차가 12%다. 다만 곱으로 생긴 최대 파수가 $2N/3$ 이라, 접혀 들어온 성분이 모두 $|k| > N/3$ 에 떨어져 버릴 예정인 영역만 오염시킨다. 남길 영역은 반올림 수준으로 깨끗하다. 반면 대역을 가득 채우면 접힌 성분이 저파수까지 밀고 들어와 유효대역이 16% 틀어진다.

난류 계산에서 16%는 그냥 부정확한 정도가 아니라 에너지를 엉뚱한 파수에 주입해 계산을 발산시키는 크기다 — 탈별칭을 “선택 사항”으로 취급하면 안 되는 이유이고, 반대로 $k_{\max}$ 가 이미 $N/3$ 이하인 초기장이라면 절단이 아무 일도 하지 않는다는 뜻이기도 하다.

5. 스펙트럴 요소법 — 두 세계의 결혼

스펙트럴 방법의 치명적 약점은 복잡한 형상을 못 다룬다는 것이다. 전역 기저는 매끈한 사각형·원판에서나 정의되지, 비행기 형상 같은 데는 얹을 수가 없다.

그래서 나온 절충안이 스펙트럴 요소법(Spectral Element Method, SEM)이다. 1984년 패테라가 채널 확장부 유동을 풀며 제안했다. 유한요소법처럼 도메인을 여러 요소로 쪼개되, 각 요소 안에서는 저차 다항식이 아니라 고차 직교 다항식(보통 르장드르)을 쓴다. 요소로 쪼갰으니 복잡한 형상을 담을 수 있고, 요소 내부는 고차 기저라 스펙트럴에 가까운 정확도를 낸다. 격자를 늘리는 h-세분화와 차수를 올리는 p-세분화를 함께 쓰는 hp-적응의 무대이기도 하다. Nek5000, Nektar++ 같은 대형 코드가 이 방식을 쓰고, 요소 경계에서 연속성을 풀어 준 사촌이 불연속 갤러킨법이다. 위 검산에서 본 “차수를 올려도 반올림 때문에 더 정확해지지 않는” 벽을 요소 분할로 우회하는 것이기도 하다.

6. 장점과 함정 정리

항목	스펙트럴 방법의 사정
정확도	매끄러운 해에서 지수 수렴. 타의 추종 불허
복잡 형상	매우 취약. 요소법으로 우회 필요
불연속 해	깁스 현상(Gibbs phenomenon)으로 진동 발생
병렬화	전역 기저라 통신이 전역적. FFT는 all-to-all
행렬 구조	종종 꽉 찬(dense) 행렬

가장 무서운 건 깁스 현상이다. 불연속(충격파 등) 근처에서 스펙트럴 근사는 아무리 항을 늘려도 오버슈트가 사라지지 않는다. 사각파의 부분합을 직접 재면 이렇다.

항 개수 $N$	최대 부분합(반진폭 1 기준)	오버슈트
8	1.180284	18.03%
128	1.178985	17.90%
2048	1.178967	17.90%

$N$ 을 256배 늘려도 오버슈트가 그대로다. 봉우리는 불연속 쪽으로 좁아질 뿐 낮아지지 않는다. 극한값은 윌브러햄-깁스 상수 $\frac{2}{\pi}\mathrm{Si}(\pi) - 1 = 0.178980$ 이고, 실측 2048항이 소수 넷째 자리까지 이 값과 맞는다.³ 흔히 인용되는 “약 9%“는 점프 전체 크기 기준(반진폭 기준 17.90%의 절반, 정확히는 8.949%)이므로, 어느 기준인지 밝히지 않으면 두 배 틀린 숫자가 된다.

그래서 충격파가 있는 압축성 유동에는 스펙트럴 방법을 함부로 못 쓰고, 지수 필터나 인공 점성, 또는 불연속을 요소 경계에 가두는 처방을 덧발라야 한다.

7. 관련 문서

• 유한차분법 · 유한요소법
• 적응 격자 세분화
• 난류 모델링
• 압축성 유동
• 나비에-스토크스 방정식
• 스펙트럴 요소법 · 의사스펙트럼법 · 불연속 갤러킨법
• 체비쇼프 다항식 · 르장드르 다항식 · 직교다항식
• 고속 푸리에 변환 · 보간과 근사
• 깁스 현상 · 직교 배치법
• 전산유체역학

8. Footnotes

1. 룽게 현상은 균등한 점에서 고차 다항식 보간을 할 때 구간 양 끝에서 오차가 폭주하는 현상이다. 해결책이 “점을 경계에 몰아 찍는다”는 반직관적 처방인데, 체비셰프 점이 정확히 그 분포를 준다. 수치해석에서 균등 격자가 항상 정답이 아니라는 대표 사례. ↩

2. 파수 $N$까지 표현하는 격자에서 두 신호를 곱하면 최대 $2N$의 파수가 생긴다. 이 중 격자가 담을 수 없는 부분이 저주파로 접혀 들어오는 게 alias다. 상위 1/3을 0으로 잘라내면 곱셈 결과가 유효 대역 안에 안전하게 들어온다. 스티븐 오재그(Steven A. Orszag)의 처방이라 종종 Orszag 2/3 rule이라 부른다. ↩

3. $\mathrm{Si}$ 는 사인 적분 $\mathrm{Si}(x) = \int_0^x \frac{\sin t}{t}dt$ 다. 깁스 현상이 1899년 깁스의 이름으로 굳었지만 1848년 윌브러햄이 먼저 지적했다 — 고속 푸리에 변환의 족보에서 가우스가 쿨리-투키보다 150년 앞섰던 것과 같은 패턴이다. 수학사에서 이름은 대개 두 번째 발견자가 가져간다. ↩