실베스터 관성 법칙

1. 개요

실베스터 관성 법칙 Sylvester's Law of Inertia
대상	실대칭(또는 에르미트) 행렬 A
내용	가역 S 에 대해 SAST 와 A 는 양·음·영 고유값의 개수가 같다
관성	In(A) = (n+, n−, n0)
발표	제임스 조지프 실베스터, 1852
정량판	오스트롭스키, 1959
계산	LDLT 분해의 D 부호를 센다

이차형식을 아무리 좌표변환으로 비틀어도, 플러스 제곱이 몇 개고 마이너스 제곱이 몇 개인지는 못 바꾼다. 행렬계의 질량 보존 법칙.

실베스터 관성 법칙(Sylvester’s law of inertia)은 실대칭 행렬 $A$ 와 임의의 가역 행렬 $S$ 에 대해, 합동 변환 $SAS^{\mathsf T}$ 가 $A$ 와 같은 개수의 양·음·영 고유값을 갖는다는 정리다. 이 세 개수의 쌍 $\mathrm{In}(A) = (n_+, n_-, n_0)$ 을 $A$ 의 관성(inertia)이라 부르고, $n_+ - n_-$ 를 부호수(signature)라 한다. 실베스터가 1852년, 모든 실 이차형식을 양·음 제곱의 합으로 줄일 수 있고 그 제곱의 개수는 줄이는 방법과 무관하다는 형태로 발표했다.

고유값 자체는 합동 변환에서 마구 변한다 — 바뀌지 않는 것은 부호별 개수뿐이다. 이 사실 하나가 수치해석에서는 “고유값을 하나도 계산하지 않고 어떤 값 아래 고유값이 몇 개인지 세기”로, 최적화에서는 “이 임계점이 최소인가 안장인가”로, 구조해석에서는 “지금 좌굴을 지났는가”로 쓰인다. LDL 분해 문서가 그 계산 쪽(이동 걸어 세기, 고유값 누락 검사, IPOPT 의 관성 보정)을 다뤘으니, 이 문서는 정리 자체 — 왜 성립하는지, 얼마나 정량적으로 말할 수 있는지, 블록 행렬에서 어떻게 쪼개지는지, 수학·물리의 어디서 같은 정리가 다른 이름으로 나오는지 — 를 정리한다.

2. 이차형식으로 보기

대칭 행렬은 이차형식 $q(\mathbf x) = \mathbf x^{\mathsf T}A\mathbf x$ 와 같은 물건이다. 변수를 $\mathbf x = S^{\mathsf T}\mathbf y$ 로 바꾸면 $q = \mathbf y^{\mathsf T}(SAS^{\mathsf T})\mathbf y$ 이니, 합동 변환은 좌표 바꾸기다.

예를 들어 $q = x^2 + 4xy + y^2 + 2z^2$ 에서 제곱 완성을 하면

$$q = (x + 2y)^2 - 3y^2 + 2z^2$$

로 양 제곱 둘, 음 제곱 하나다. $y$ 부터 완성해도 $(y+2x)^2 - 3x^2 + 2z^2$ 로 계수는 달라지지만 부호 개수는 그대로다. 실제 행렬 $\begin{pmatrix}1&2&0\\2&1&0\\0&0&2\end{pmatrix}$ 의 고유값은 $3, -1, 2$ 로, 관성 $(2,1,0)$ 이 맞다. 제곱 완성이 곧 LDL 분해이고, 계수 $1, -3, 2$ 가 $D$ 의 피벗이다. 실베스터가 말한 것은 “어떤 순서, 어떤 방식으로 제곱 완성을 해도 부호 셈은 같다”는 것이다.

3. 증명 — 부분공간 차원 세기

$n_0$ 이 같은 건 쉽다. $S$ 가 가역이면 $SAS^{\mathsf T}$ 와 $A$ 의 랭크가 같으니 영공간 차원이 같다. 나머지는 다음 특성화에서 나온다.

$$n_+(A) = \max\{\dim V : \mathbf x^{\mathsf T}A\mathbf x > 0 \ \ \forall \mathbf x \in V\setminus\{0\}\}$$

(양의 고유벡터들이 펼치는 공간이 그런 $V$ 이고, 그보다 크면 음·영 고유공간과 겹쳐서 모순이다.) 이 정의는 고유값을 전혀 언급하지 않고 이차형식의 값만 쓴다. 그런데 좌표를 바꿔도 “어떤 부분공간 위에서 $q$ 가 양”이라는 성질은 그 부분공간의 상(像)으로 그대로 옮겨 가고 차원도 보존된다. 따라서 $n_+$ 는 좌표 변환에 불변이고, $n_-$ 는 $-A$ 에 같은 논리를 쓰면 된다. 이 짧은 논증이 정리의 전부다 — 고유값 계산 없이, 차원만으로 끝난다.¹

같은 논리로 복소 에르미트 행렬과 $SAS^{*}$ 에도 그대로 성립한다. 반면 닮음 변환 $SAS^{-1}$ 은 고유값 자체를 보존하지만 대칭성을 깨므로, 관성 법칙의 대상이 아니다. 둘을 헷갈리지 않는 게 중요하다.

4. 정량판 — 오스트롭스키 정리

관성 법칙은 “부호는 보존된다”고만 말한다. 그럼 크기는 얼마나 변하나? 오스트롭스키(1959)의 답:

$$\lambda_k(SAS^{\mathsf T}) = \theta_k\,\lambda_k(A), \qquad \lambda_{\min}(SS^{\mathsf T}) \le \theta_k \le \lambda_{\max}(SS^{\mathsf T})$$

(고유값은 오름차순으로 짝짓는다.) 각 고유값은 $SS^{\mathsf T}$ 의 고유값 범위 안의 양의 배율로만 늘거나 준다. 위의 행렬에 $S = \begin{pmatrix}1&0&0\\2&1&0\\0&1&3\end{pmatrix}$ 을 걸어 계산해 보면:

• $A$ 의 고유값: $-1,\ 2,\ 3$
• $SAS^{\mathsf T}$ 의 고유값: $-0.224,\ 10.74,\ 22.49$
• 배율 $\theta_k$: $0.224,\ 5.37,\ 7.50$
• $SS^{\mathsf T}$ 의 고유값 범위: $[0.156,\ 10.21]$

모든 배율이 범위 안에 있다. $S$ 가 직교행렬이면 범위가 $[1,1]$ 로 줄어 고유값 자체가 보존되고(닮음과 합동이 일치), $S$ 의 조건수가 클수록 고유값 크기는 크게 흔들려도 부호만큼은 끝까지 지켜진다. 수치적으로는 이것이 경고이기도 하다 — 조건수 나쁜 $S$ 로 합동 변환하면 0 근처 고유값의 부호를 반올림 오차가 뒤집을 수 있다. 피벗을 키우는 번치-카우프만 피벗 같은 안정한 피벗이 관성 계산에 필수인 이유다.

5. 블록으로 쪼개기 — 헤인즈워스 공식

$M = \begin{pmatrix}A & B\\ B^{\mathsf T} & C\end{pmatrix}$ 에서 $A$ 가 가역이면

$$M = \begin{pmatrix}I & 0\\ B^{\mathsf T}A^{-1} & I\end{pmatrix} \begin{pmatrix}A & 0\\ 0 & C - B^{\mathsf T}A^{-1}B\end{pmatrix} \begin{pmatrix}I & A^{-1}B\\ 0 & I\end{pmatrix}$$

로, 가운데 블록 대각 행렬과 합동이다. 관성 법칙을 적용하면 헤인즈워스 관성 가산 공식(1968)

$$\mathrm{In}(M) = \mathrm{In}(A) + \mathrm{In}(M/A), \qquad M/A = C - B^{\mathsf T}A^{-1}B$$

이 나온다. $M/A$ 는 슈어 보수다. 블록 LDL 분해가 한 일을 정리 형태로 쓴 것이고, 여기서 바로 따라 나오는 것들:

• 양정치 판정. $M \succ 0 \iff A \succ 0$ 이고 $M/A \succ 0$. 영역 분할법에서 경계 슈어 보수가 SPD 인 근거다.
• 실베스터 판정법(선행 주 소행렬식이 모두 양수면 양정치)과 야코비 규칙: 선행 소행렬식 $\Delta_k$ 가 모두 0 이 아니면 피벗은 $d_k = \Delta_k/\Delta_{k-1}$ 이므로, 수열 $1, \Delta_1, \dots, \Delta_n$ 의 부호 바뀜 횟수가 $n_-$ 다. 위 예에서 $1, 1, -3, -6$ — 한 번 바뀌니 음 고유값 하나.
• 안장점 행렬. 최적화의 KKT 행렬 $\begin{pmatrix}H & J^{\mathsf T}\\ J & 0\end{pmatrix}$ ($J$ 는 $m\times n$, 행 풀랭크)의 관성이 $(n, m, 0)$ 인 것은 $H$ 가 $J$ 의 영공간 위에서 양정치인 것과 동치다. “제약 위에서 볼록한가”를 분해 한 번으로 확인하는 근거이고, 내점법 솔버가 이걸 매 스텝 검사한다.

6. 같은 정리, 다른 이름들

일반화 고유값 문제와 스펙트럼 자르기. 구조 모드 해석의 $K\mathbf x = \lambda M\mathbf x$ ($M$ 은 SPD)에서

$$K - \sigma M = M^{1/2}\big(M^{-1/2}KM^{-1/2} - \sigma I\big)M^{1/2}$$

는 합동이므로 $n_-(K - \sigma M)$ = ”$\sigma$ 아래 고유진동수 개수”다. 2자유도 예로 $K = \begin{pmatrix}2&-1\\-1&1\end{pmatrix}$, $M = \mathrm{diag}(2,1)$ 이면 고유값은 $1 \pm 1/\sqrt2$, 즉 $0.293$ 과 $1.707$ 이다. $\sigma = 0.5$ 에서 $K - 0.5M = \begin{pmatrix}1 & -1\\ -1 & 0.5\end{pmatrix}$ 의 피벗은 $1$ 과 $-0.5$ — 음수 하나, 0.5 아래 고유값 하나가 맞다. 상용 FE 코드의 “스텀 시퀀스 검사”가 이것이고, 대칭 삼중대각에서 스텀 수열이 같은 일을 한다.

임계점의 분류와 모스 지수. 매끄러운 함수의 임계점에서 헤시안의 $n_-$ 를 모스 지수라 한다. 좌표계를 바꾸면 헤시안은 야코비안으로 합동 변환되므로, 관성 법칙 덕에 지수가 좌표와 무관한 기하학적 양이 된다. 0 이면 극소, $n$ 이면 극대, 그 사이면 안장점이다. 계산화학의 포텐셜 에너지 표면에서 전이 상태는 지수 1 인 안장점이고 — 진동수 계산에서 허수 진동수가 정확히 하나 나와야 한다는 국룰이 바로 이것이다(전이상태 이론).²

구조 안정성과 좌굴. 보존계의 평형은 퍼텐셜 에너지 헤시안(= 접선 강성행렬)이 양정치일 때 안정하다. 하중을 올리며 비선형 해석을 하다가 접선 강성의 LDL 분해에서 음 피벗 개수가 늘어나면 임계점을 하나 지난 것이다. 호장법 같은 경로 추적 코드가 음 피벗 개수를 로그에 찍는 이유이고, 극한점과 분기점을 구분하는 단서도 여기서 나온다(좌굴).

시공간의 부호수. 상대성이론의 계량 텐서는 각 점에서 대칭 행렬이고, 좌표변환은 그 점에서 야코비안에 의한 합동이다. 그래서 계량의 부호수 — 시간 차원 하나, 공간 차원 셋 — 는 어떤 좌표계를 써도 바뀌지 않는다. “어떤 관성계에서 보든 시간은 시간”이라는 말의 선형대수 버전이다.³

7. 관련 문서

• LDL 분해 · 번치-카우프만 피벗 · 촐레스키 분해 · 슈어 보수
• 고유값 문제 · 스텀 수열 · 모드 해석 · QR 알고리즘
• 안장점 · 내점법 · 포텐셜 에너지 표면 · 전이상태 이론
• 좌굴 · 호장법 · 조건수 · 이차 형식 · 모스 이론

8. Footnotes

1. 실베스터 본인은 이 결과를 “관성 법칙”이라 이름 붙이며 꽤 자랑스러워했다. 물리의 관성처럼 “바꾸려 해도 안 바뀐다”는 뜻. 행렬(matrix)이라는 단어를 수학에 처음 들여온 사람도 실베스터라, 이름 짓는 데 일가견이 있던 사람이다. ↩

2. 전이 상태 최적화를 돌렸는데 허수 진동수가 둘 나왔다면 지수 2 짜리 안장, 즉 엉뚱한 데 앉은 것이다. 이걸 “그래도 수렴은 했다”고 논문에 넣으면 리뷰어가 관성 법칙으로 반박해 온다. ↩

3. 부호 규약이 $(-,+,+,+)$ 냐 $(+,-,-,-)$ 냐는 물리학자들 사이 영원한 종교 전쟁이지만, 관성 법칙의 관점에서는 $A$ 와 $-A$ 의 차이일 뿐이다. 어느 편이든 시간 하나·공간 셋이라는 셈은 같다. ↩