의사스펙트럼

수치해석 계산물리 마지막 수정: 2026-08-04 04:11:20

1. 개요[편집]

의사스펙트럼 Pseudospectrum
기호	$\Lambda_\varepsilon(A)$
정의	$\sigma_{\min}(zI-A) \le \varepsilon$ 인 복소수 $z$ 의 집합
등장	Landau(1975) · Varah(1979) · Trefethen(1990년대 대중화)
쓰는 곳	과도 성장, 비정규 안정성, 아임계 천이, 반복법 수렴
도구	EigTool, Pseudospectra.jl, ARPACK+슈어 투영

고유값은 $t \to \infty$ 에서 무슨 일이 일어나는지 알려준다. 문제는 대부분의 사고가 $t = 3$ 에서 난다는 것이다.

의사스펙트럼(pseudospectrum)은 어떤 행렬 $A$ 에 대해 ” $\varepsilon$ 만큼의 섭동을 허용하면 고유값이 될 수 있는 복소수들의 집합”이다. 정확히는 $\varepsilon > 0$ 에 대해

\Lambda_\varepsilon(A) = \{\, z \in \mathbb{C} : \sigma_{\min}(zI - A) \le \varepsilon \,\}

로 정의하며, $\sigma_{\min}$ 은 최소 특이값이다. 고유값 집합 $\Lambda(A)$ 가 $\varepsilon \to 0$ 극한의 점 집합이라면, 의사스펙트럼은 그 점들을 유한한 $\varepsilon$ 로 부풀린 영역이다. 그리고 이 영역이 얼마나 흉하게 부풀어 오르는지가 비정규 행렬(non-normal matrix)의 실제 거동을 결정한다.¹

핵심 주장은 도발적이다. 비정규 계에서는 고유값이 안정성을 예측하지 못한다. 모든 고유값이 좌반평면 깊숙이 박혀 있어도 $\|e^{tA}\|$ 가 수천 배로 치솟았다가 내려올 수 있고, 그 사이에 비선형항이 개입하면 계는 원래의 선형 안정성 해석이 약속한 곳으로 돌아오지 않는다. 난류 천이의 아임계 시나리오가 정확히 이 이야기다.

복소평면 116×84 격자에서 σ_min(zI−A) 를 매 점 계산한다. zI−A 를 상헤센베르크 LU 로 분해한 뒤 그 LU 로 (MM^H)⁻¹ 을 적용하며 완전 재직교화 란초스를 돌려 얻는 값이고, 왼쪽부터 점진 스캔하며 ε = 10^−0.5 … 10^−8 등고선을 누적한다. 하단은 스케일링·제곱으로 구한 exp(ΔtA) 를 220스텝 누적하며 매 스텝 잰 ‖e^{tA}‖₂ 로, 엄밀한 상계 e^{ωt}·점근선 e^{αt}·크라이스 하한을 함께 긋는다. 기본 프리셋(삼중대각 토플리츠, N=14, γ=1.1)은 고유값이 전부 좌반평면이라 α(A) = −0.2312 인데 수치 횡좌표는 ω(A) = +0.7285 여서 곡선이 위로 출발하고, 실측 최대 증폭이 t=13.8 에서 146.7배에 이른 뒤 e^{αt} 를 따라 내려온다. 격자에서 잰 크라이스 하한 43.85 (ε=1.5×10⁻³) ≤ 146.7 로 부등식이 성립한다. γ 를 0 으로 내리면 같은 행렬이 정규가 되어 등고선이 반지름 ε 원판의 합집합과 상대오차 6.0×10⁻¹⁶ 로 일치하고 최대 증폭은 1.0000 이 된다. 격자 해상도 때문에 α_ε 를 과소평가하므로 표시되는 크라이스 값은 하한의 하한이다.

2. 세 가지 동치 정의[편집]

의사스펙트럼의 매력은 완전히 달라 보이는 세 정의가 2-노름에서 정확히 같은 집합을 준다는 데 있다.

특이값 정의. $\sigma_{\min}(zI - A) \le \varepsilon$ .
섭동 정의. $\|E\|_2 \le \varepsilon$ 인 어떤 $E$ 가 존재해 $z \in \Lambda(A + E)$ . 즉 $\Lambda_\varepsilon(A) = \bigcup_{\|E\| \le \varepsilon} \Lambda(A+E)$ .
레졸벤트 정의. $\|(zI - A)^{-1}\|_2 \ge 1/\varepsilon$ (고유값에서는 $\infty$ 로 약속).

1↔3은 $\sigma_{\min}(M) = 1/\|M^{-1}\|_2$ 라는 항등식 하나로 끝난다. 1↔2는 최소 특이값에 대응하는 좌·우 특이벡터 $u, v$ 로 랭크 1 섭동 $E = -\sigma_{\min} u v^{*}$ 를 만들면 $(zI - A - E)v = 0$ 이 되는 것을 확인하면 된다. 최악의 섭동은 항상 랭크 1로 실현된다는 이 사실이 실무적으로 중요하다. 계수 하나 잘못 넣은 것 같은 사소한 오차가 스펙트럼을 통째로 옮길 수 있다는 뜻이니까.

정규 행렬( $A A^{*} = A^{*} A$ )에서는 이 모든 게 시시하다. 스펙트럼 정리로 $A$ 를 유니터리 대각화하면 $\|(zI-A)^{-1}\|_2 = 1/\mathrm{dist}(z, \Lambda(A))$ 이므로 $\Lambda_\varepsilon(A)$ 는 각 고유값을 중심으로 하는 반지름 $\varepsilon$ 원판들의 합집합이다. 정확히 $\varepsilon$ 만큼 부푼다. 대칭·에르미트·유니터리 행렬이 수치적으로 편한 이유가 이것이고, 고유값 문제 교과서가 은근슬쩍 정규성을 가정하고 넘어가는 이유이기도 하다.

비정규 행렬에서는 부푸는 정도가 고유벡터 행렬의 조건수에 지배된다. 바우어-피케 정리는 대각화 가능한 $A = V \Lambda V^{-1}$ 에 대해 $\Lambda_\varepsilon(A)$ 가 반지름 $\varepsilon \,\kappa(V)$ 원판들 안에 갇힌다고 말한다. $\kappa(V)$ 가 $10^{8}$ 이면 상한은 아무 정보도 주지 않는다. 그런데 실제로 발생한다 — 고전적인 예가 $N \times N$ 상삼각 요르단 형 행렬로, 좌하단 구석에 $\delta$ 를 하나 넣으면 고유값이 반지름 $\delta^{1/N}$ 짜리 원으로 흩어진다. $N = 100$ , $\delta = 10^{-20}$ 이면 반지름이 $0.63$ 이다.

3. 과도 성장과 크라이스 상수[편집]

선형계 $\dot{x} = Ax$ 에서 모든 고유값의 실부가 음수면 $t \to \infty$ 에서 $\|e^{tA}\| \to 0$ 이다. 여기까지는 참이다. 문제는 가는 길이다. 의사스펙트럼은 이 중간 거동에 정량적 하한을 준다. 의사스펙트럼 어브시사 $\alpha_\varepsilon(A) = \sup\{\mathrm{Re}\, z : z \in \Lambda_\varepsilon(A)\}$ 를 정의하면

\sup_{t \ge 0} \|e^{tA}\| \;\ge\; \frac{\alpha_\varepsilon(A)}{\varepsilon} \quad \text{(모든 } \varepsilon > 0 \text{ 에 대해)}

가 성립한다. 즉 $\varepsilon$ -의사스펙트럼이 허축을 $\alpha_\varepsilon$ 만큼만 넘어가도, 최대 증폭률은 최소한 $\alpha_\varepsilon/\varepsilon$ 이다. $\varepsilon = 10^{-3}$ 에서 $\alpha_\varepsilon = 0.5$ 라면 500배 성장이 보장된다. 고유값은 이 500배에 대해 한 마디도 하지 않는다.

이 하한들의 상한을 함께 묶는 것이 크라이스 행렬 정리다. 연속시간 형태로 크라이스 상수를

\mathcal{K}(A) = \sup_{\mathrm{Re}\, z > 0} \; \mathrm{Re}(z) \, \|(zI - A)^{-1}\|

라 두면

\mathcal{K}(A) \;\le\; \sup_{t \ge 0} \|e^{tA}\| \;\le\; e\,N\,\mathcal{K}(A)

이다( $N$ 은 행렬 차수). 비슷한 역할을 하는 사촌 개념이 수치 영역(field of values) $W(A) = \{x^{*}Ax : \|x\|=1\}$ 으로, $\Lambda_\varepsilon(A)$ 가 $W(A)$ 를 $\varepsilon$ 만큼 부풀린 집합 안에 항상 포함된다는 관계가 성립한다. 이산시간 판본은 $\sup_n \|A^n\|$ 과 $\sup_{|z|>1}(|z|-1)\|(zI-A)^{-1}\|$ 사이의 같은 부등식이고, 상수 $eN$ 이 최선이라는 것은 1991년 스페이커가 증명했다.² 차수 $N$ 에 비례하는 상한이라 큰 계에서는 느슨하지만, 레졸벤트 노름만 보고도 과도 성장의 크기 등급을 알 수 있다는 원리 자체가 강력하다. 등고선 적분으로 얻는 상한 $\|e^{tA}\| \le \frac{L_\varepsilon}{2\pi\varepsilon} e^{t\alpha_\varepsilon}$ ( $L_\varepsilon$ 은 $\partial\Lambda_\varepsilon$ 의 호 길이)도 자주 쓰인다.

4. 실제로 걸려 넘어지는 곳[편집]

대류-확산 방정식. 1차원 연산자 $-\nu u'' + u'$ 를 디리클레 경계로 이산화하면, 대각 유사변환 $D = \mathrm{diag}(\rho^{j})$ 로 대칭화할 수 있지만 그 변환의 조건수가 격자수에 대해 지수적으로 커진다. 결과적으로 고유값은 실축 위에 얌전히 놓이는데 의사스펙트럼은 거대한 눈물방울 모양으로 부풀어 오른다. 상류 차분의 “안정한데 이상하게 요동친다”는 증상이 여기서 나온다.
오어-조머펠트 방정식. 평면 푸아죄유 유동의 선형 안정성은 $Re \approx 5772$ 에서 첫 고유값이 불안정해진다고 말한다. 실험은 $Re \sim 1000$ 언저리에서 천이한다. 1993년 트레페텐·레디 등이 Science 에 실은 “고유값 없는 유체역학적 안정성”이 이 간극을 의사스펙트럼으로 설명했다 — 오어-조머펠트/스콰이어 연산자는 극도로 비정규해서 에너지가 $O(Re^2)$ 배까지 과도 성장하고, 그 사이 비선형항이 개입해 계를 다른 상태로 밀어낸다.³ 리프트업 메커니즘과 종방향 스트리크가 그 물리적 실체다.
반복 해법의 수렴. GMRES의 수렴을 고유값 분포로 설명하는 관습은 정규 행렬에서만 정당하다. 비정규 계에서는 임의의 고유값 분포와 임의의 수렴 곡선을 짝지어 만들 수 있다는 반례가 존재하며, 이때 전처리기 설계의 기준은 “고유값을 뭉치기”가 아니라 “의사스펙트럼을 원점에서 떼어내기”가 된다.
이산화 안정성. 폰 노이만 안정성 해석은 푸리에 모드를 쓰므로 본질적으로 정규 가정이다. 경계 조건이 개입하는 순간(주기 경계가 아닌 순간) 증폭행렬은 비정규가 되고, 스펙트럼 반지름 $\le 1$ 이 랙스 안정성을 보장하지 못한다.

5. 계산 방법[편집]

가장 소박한 방법은 복소평면에 격자를 깔고 각 점에서 $\sigma_{\min}(zI - A)$ 를 특이값 분해로 구해 등고선을 그리는 것이다. 정직하지만 $m$ 개 격자점에 $O(m N^3)$ 이라 $N = 500$ 만 돼도 답이 없다. 표준 가속은 두 단계다.

슈어 분해를 한 번만. $A = Q T Q^{*}$ 로 상삼각화하면 유니터리 불변성 때문에 $\sigma_{\min}(zI - A) = \sigma_{\min}(zI - T)$ 다. 초기 비용 $O(N^3)$ 한 번으로 끝난다.
삼각 구조 위의 역멱반복. $\sigma_{\min}(zI-T)^{-2}$ 는 $\big((zI-T)^{*}(zI-T)\big)^{-1}$ 의 최대 고유값이므로 역반복법/역 란초스를 돌린다. 삼각 전진·후진 대입은 $O(N^2)$ 이고 반복은 대개 몇 번이면 수렴한다. 결과적으로 격자점당 $O(N^2)$ .

여기에 트레페텐의 실전 요령이 붙는다. 슈어 형에서 관심 영역과 무관한 고유값에 해당하는 대각 블록을 잘라내고 좌상단 부분만 남기면(재정렬 후 절단) 정확도 손실 없이 크기를 크게 줄일 수 있다. 대형 희소 행렬은 아놀디 알고리즘(ARPACK 계열)으로 크릴로프 부분공간에 투영한 뒤 그 헤센베르크 행렬의 의사스펙트럼을 그린다 — 다만 이건 안쪽 근사라서 실제보다 작게 나오는 경향이 있고, 유리 크릴로프나 이동-역변환을 섞어야 바깥 윤곽까지 잡힌다.

도구로는 오랫동안 옥스퍼드의 MATLAB 패키지 EigTool이 사실상 표준이었고, 지금은 Julia의 Pseudospectra.jl 등이 같은 알고리즘을 옮겨 담고 있다. 등고선은 보통 $\varepsilon = 10^{-1}, 10^{-2}, \dots$ 처럼 로그 등간격으로 그리는데, 등고선 사이 간격이 촘촘할수록 정규에 가깝고, 넓게 벌어질수록 비정규라는 눈대중이 실무에서 놀랍도록 잘 통한다.⁴

6. 관련 문서[편집]

이름이 좀 억울하다. “의사(pseudo)“라는 접두사 때문에 가짜 스펙트럼처럼 들리지만, 실제로 물리적 계의 거동을 지배하는 쪽은 이쪽인 경우가 많다. 트레페텐과 엠브리의 2005년 책 Spectra and Pseudospectra 부제가 아예 비정규 행렬과 연산자의 거동이다. ↩
이산시간 크라이스 정리의 상한 상수 $eN$ 이 최선임을 보인 것이 스페이커(M. N. Spijker)의 1991년 결과다. 그 전까지는 ” $N$ 에 비례하긴 하는데 계수가 뭔지 모르겠다”가 40년쯤 지속됐다. 수치해석에서 상수 하나 확정하는 데 걸리는 평균 시간이 대략 이 정도다. ↩
이 논문 제목이 워낙 강렬해서, 이후 20년간 “eigenvalues are not enough”류의 제목이 유체 학회에 범람했다. 다만 오해하면 안 되는 것은 고유값이 틀린 게 아니라 불충분하다는 것이다. $Re = 5772$ 위에서 불안정하다는 결론 자체는 여전히 맞다. ↩
등고선이 겹쳐 보일 정도로 촘촘하면 그건 정규에 가깝다는 신호이자, 동시에 “이 문제는 그냥 고유값만 봐도 됐다”는 신호다. 의사스펙트럼을 그려 본 뒤 시시한 그림이 나오는 건 실패가 아니라 무죄 판결이다. ↩