바우어-파이크 정리

1. 개요

바우어-파이크 정리 Bauer–Fike Theorem
전제	$A = V\Lambda V^{-1}$ 대각화 가능
결론	$A+E$ 의 모든 고유값 $\mu$ 에 대해 $\min_i \lvert\mu-\lambda_i\rvert \le \kappa(V)\lVert E\rVert$
증폭 계수	고유벡터 행렬의 조건수 $\kappa(V) = \lVert V\rVert\lVert V^{-1}\rVert$
정규 행렬	$\kappa(V) = 1$ — 고유값이 섭동 크기 이상 안 움직임
사후판	근사 고유쌍의 잔차 $\lVert r\rVert$ 로 오차를 묶는다
발표	바우어·파이크, Numer. Math. 1960

고유값 계산 결과를 믿어도 되는가? 행렬이 「얼마나 비정규인가」를 한 숫자로 재서 답한다.

바우어-파이크 정리(Bauer–Fike theorem)는 대각화 가능한 행렬 $A = V\Lambda V^{-1}$ 에 섭동 $E$ 를 더했을 때, $A + E$ 의 모든 고유값 $\mu$ 가

$$\min_{i} \lvert \mu - \lambda_i \rvert \;\le\; \kappa_p(V)\,\lVert E \rVert_p, \qquad \kappa_p(V) = \lVert V\rVert_p\,\lVert V^{-1}\rVert_p$$

를 만족한다는 정리다. 기하학적으로 말하면 섭동된 스펙트럼은 원래 고유값들을 중심으로 하는 반지름 $\kappa(V)\lVert E\rVert$ 의 원판 합집합 안에 갇힌다. 1960년 프리드리히 L. 바우어와 C. T. 파이크가 「노름과 배제 정리」라는 제목으로 발표했다¹.

고유값 문제를 수치로 풀면 반올림 때문에 실제로는 $A$ 가 아니라 근처의 $A + E$ ($\lVert E\rVert \approx \epsilon_{\text{mach}}\lVert A\rVert$) 의 고유값을 정확히 구한 셈이 된다 — QR 알고리즘이 후방 안정이라는 말의 뜻이다(후진 오차 해석). 그러면 남는 질문은 「그 $E$ 가 고유값을 얼마나 움직이는가」이고, 바우어-파이크가 그 답의 가장 단순한 형태다. 증폭 계수가 $\lVert A\rVert$ 도, 고유값 간격도 아닌 고유벡터 행렬의 조건수 라는 점이 핵심이다.

2. 증명 — 다섯 줄

$\mu$ 가 $A$ 의 고유값이면 좌변이 0 이라 할 일이 없다. 아니라고 하자. $A + E - \mu I$ 가 특이하므로

$$V^{-1}(A + E - \mu I)V = (\Lambda - \mu I) + V^{-1}EV$$

도 특이하고, $\Lambda - \mu I$ 는 가역이므로 양변 왼쪽에 그 역을 곱하면 $I + (\Lambda - \mu I)^{-1}V^{-1}EV$ 가 특이하다. 그런데 $I + X$ 가 특이하면 $\lVert X\rVert \ge 1$ 이어야 한다(아니면 노이만 급수로 역이 존재한다). 따라서

$$1 \le \lVert(\Lambda - \mu I)^{-1}\rVert\,\lVert V^{-1}\rVert\,\lVert E\rVert\,\lVert V\rVert = \frac{\kappa(V)\lVert E\rVert}{\min_i \lvert\lambda_i - \mu\rvert}.$$

마지막 등호는 대각 행렬의 노름이 대각 성분 절댓값의 최댓값이라는 사실을 썼다. 그래서 이 정리는 $p$-노름처럼 그 성질을 가진 노름(절대 노름)에서 성립한다. 같은 결론을 원판 언어로 얻는 길도 있다 — $\Lambda + V^{-1}EV$ 에 거슈고린 원판 정리를 쓰면 된다.

증명에서 보이듯 $V$ 는 고유벡터들을 열로 쌓은 아무 행렬이나 되고, 열 스케일을 바꾸면 $\kappa(V)$ 가 달라진다. 정리는 모든 스케일에서 성립하므로 가장 작은 $\kappa(V)$ 를 쓰면 된다. 열을 같은 2-노름으로 맞추면 최적 스케일의 $\sqrt n$ 배 이내라는 판 데르 슬라위스(1969)의 결과가 있어, 단위 노름 열이 사실상 표준이다.

3. 정규 행렬과 비정규 행렬

정규 행렬(에르미트·유니터리·실대칭 등)이면 $V$ 를 유니터리로 고를 수 있어 $\kappa_2(V) = 1$ 이고

$$\min_i \lvert\mu - \lambda_i\rvert \le \lVert E\rVert_2.$$

고유값이 섭동 크기 이상 움직이지 않는다. 에르미트 행렬의 고유값을 믿을 수 있는 이유다. $A$ 와 $E$ 가 둘 다 에르미트이면 바일 부등식 $\lvert\lambda_k(A+E) - \lambda_k(A)\rvert \le \lVert E\rVert_2$ 가 크기 순서대로 짝을 지어 같은 한계를 주는데, 바우어-파이크는 짝짓기 없이 「가장 가까운 고유값까지의 거리」만 묶는 대신 $E$ 가 에르미트가 아니어도 성립한다. 실측(실대칭 $50\times50$, 비대칭 잡음 $E$, $\lVert E\rVert_2 = 1.3\times10^{-2}$): 최대 이동 거리 $2.4\times10^{-3}$, 한계 안이다.

비정규 행렬 에서는 고유벡터들이 서로 비스듬해져 $\kappa(V)$ 가 커진다. 장난감으로 재 보자.

$$A = \begin{pmatrix} 1 & 1 \\ 0 & 1.01 \end{pmatrix}, \qquad E = \begin{pmatrix} 0 & 0 \\ 10^{-6} & 0 \end{pmatrix}$$

고유값은 1 과 1.01 로 간격이 $10^{-2}$ 인데 두 고유벡터 $(1, 0)$ 과 $(1, 0.01)/\lVert\cdot\rVert$ 가 거의 평행해 $\kappa_2(V) = 200.005$ 다. 바우어-파이크 한계는 $2.0\times10^{-4}$, 실제 이동은 $9.90\times10^{-5}$. 섭동 $10^{-6}$ 이 고유값을 100배 증폭해 움직였고 정리는 그것을 배수 2 이내로 예측했다.

4. 한계가 얼마나 비관적인가

바우어-파이크는 모든 고유값을 한 숫자로 묶는다. 그래서 고유값마다 민감도가 다르면 비관적이 된다. 고유값별 민감도는 윌킨슨의 고유값 조건수

$$\kappa(\lambda_i) = \frac{\lVert \mathbf y_i\rVert\,\lVert \mathbf x_i\rVert}{\lvert \mathbf y_i^{*}\mathbf x_i\rvert}$$

($\mathbf x_i$, $\mathbf y_i$ 는 오른쪽·왼쪽 고유벡터)가 잰다. 1차 섭동 이론에서 $\lvert\delta\lambda_i\rvert \lesssim \kappa(\lambda_i)\lVert E\rVert$ 이고, 언제나 $\kappa(\lambda_i) \le \kappa_2(V)$ 다. 위 $2\times2$ 예에서는 두 고유값 모두 $\kappa(\lambda_i) = 100.005$ — 실제 증폭 99와 거의 같다. 바우어-파이크의 200 은 이것의 두 배다.

차이는 행렬이 커지면 벌어진다. 무작위 가우스 $50\times50$ 비대칭 행렬(같은 $E$)에서 $\kappa_2(V) = 62$, 한계는 $0.81$ 인데 실제 최대 이동은 $7.1\times10^{-3}$ 로 100배 이상 비관적이었다. 한계는 「최악의 $E$」에 대한 것이고, 무작위 섭동은 최악 방향을 거의 맞히지 않는다. 그래서 실무에서는

• 고유값 하나의 오차 막대가 필요하면 LAPACK xGEEVX 같은 전문가 드라이버가 돌려주는 고유값별 역조건수(RCONDE)를 쓰고,
• 바우어-파이크는 「이 행렬의 고유값을 통째로 믿어도 되나」를 가르는 대략적 경보로 쓴다.

결손 행렬에서는 아예 성립하지 않는다. 대각화가 안 되면 $V$ 가 없다. 그리고 실제 거동도 선형이 아니다. $10\times10$ 조르당 블록(대각 1, 초대각 1)의 왼쪽 아래 구석에 $10^{-10}$ 하나를 넣으면 고유값 10개가 모두 정확히 $\lvert\mu - 1\rvert = 0.1$ 인 원 위로 튀어나간다 — 섭동 $\varepsilon$ 이 $\varepsilon^{1/10}$ 으로 증폭된 것이다. 블록 크기 $m$ 짜리 조르당 표준형이 있으면 이동량은 $\varepsilon^{1/m}$ 꼴이고, 대각화 가능하지만 결손에 가까운 행렬은 $\kappa(V)$ 가 거대해지는 것으로 그 경계를 흉내 낸다².

5. 사후 판정판 — 잔차로 오차 재기

실무에서 더 자주 쓰는 것은 같은 논법을 잔차에 적용한 형태다. 근사 고유쌍 $(\mu, \mathbf x)$, $\lVert\mathbf x\rVert = 1$ 의 잔차를 $\mathbf r = A\mathbf x - \mu\mathbf x$ 라 하면, $E = -\mathbf r\mathbf x^{*}$ 로 두었을 때 $(A + E)\mathbf x = \mu\mathbf x$ 이고 $\lVert E\rVert_2 = \lVert\mathbf r\rVert_2$ 이므로

$$\min_i \lvert\mu - \lambda_i\rvert \le \kappa_2(V)\,\lVert\mathbf r\rVert_2.$$

잔차가 작으면 고유값이 정확하다 — 단 $\kappa(V)$ 배까지. 정규 행렬이면 계수 1 로 「잔차 = 오차 한계」가 되어 란초스 알고리즘·레일리 몫 반복의 정지 판정이 바로 이것을 쓴다(대칭 문제에서는 간격 정보까지 넣은 카토-템플 한계로 더 조일 수 있다). 비정규 문제에서 아놀디 알고리즘이 잔차 $10^{-12}$ 를 보고해도 $\kappa(V) = 10^{8}$ 이면 고유값은 넷째 자리까지만 믿을 수 있다. 「잔차가 작다 = 답이 맞다」는 등식은 정규 행렬에서만 공짜다³.

6. 의사스펙트럼으로 다시 쓰기

$\varepsilon$-의사스펙트럼 $\Lambda_\varepsilon(A) = \{\mu : \lVert(\mu I - A)^{-1}\rVert > 1/\varepsilon\}$ 은 「노름 $\varepsilon$ 이하 섭동으로 고유값이 될 수 있는 점 전체」와 같다(2-노름). 그러면 바우어-파이크는

$$\Lambda(A) + \Delta_\varepsilon \;\subseteq\; \Lambda_\varepsilon(A) \;\subseteq\; \Lambda(A) + \Delta_{\varepsilon\kappa(V)}$$

($\Delta_r$ 은 반지름 $r$ 원판)의 오른쪽 포함으로 읽힌다. 왼쪽 포함은 아무 행렬에서나 성립하므로, 정규 행렬이면 의사스펙트럼이 정확히 고유값 둘레의 $\varepsilon$ 원판이고, 비정규 행렬이면 최대 $\kappa(V)$ 배까지 부풀 수 있다는 말이다. 트레페텐과 엠브리의 책은 이 한 줄을 출발점으로 삼아 고유값만 보면 놓치는 과도 성장·유체 안정성의 아임계 천이를 다룬다. 바우어-파이크는 「고유값이 의미 있는 정보인가」의 1차 답이고, 의사스펙트럼은 그 답이 「아니오」일 때 무엇을 봐야 하는지를 알려 준다.

7. 관련 문서

• 고유값 문제 · 비정규 행렬 · 의사스펙트럼 · 조르당 표준형 · 슈어 분해
• 거슈고린 원판 정리 · 조건수 · 후진 오차 해석 · 유도 노름
• QR 알고리즘 · 란초스 알고리즘 · 아놀디 알고리즘 · 레일리 몫
• 바일 부등식 · 고유값 조건수 · 섭동 이론

8. Footnotes

1. 바우어는 이 정리보다 다른 데서 더 유명하다. 자멜존과 함께 수식 번역의 스택(켈러 원리)을 고안했고, 1968년 NATO 회의의 제목으로 「소프트웨어 공학」이라는 말을 세상에 내놓은 사람으로 꼽힌다. 고유값 섭동은 부캐였던 셈. ↩

2. $\varepsilon = 10^{-16}$ 에 $m = 16$ 이면 $\varepsilon^{1/m} = 0.1$. 기계 엡실론짜리 반올림 하나가 고유값을 첫째 자리에서 흔든다. 조르당 형식을 수치로 계산하지 말라는 교과서 경고의 정량판이다. ↩

3. 「잔차 $10^{-12}$ 찍혔으니 됐다」 하고 보고서 내는 것이 국룰인데, 행렬이 비정규면 그 국룰이 킹받는 결과를 낳는다. 대류 지배 문제의 이산화 행렬이 대표 피해자다. ↩