2차 고유값 문제

1. 개요

2차 고유값 문제 Quadratic eigenvalue problem (QEP)
형태	$(\lambda^2M+\lambda C+K)x=0$
고유값 수	$2n$ 개 ($M$ 특이면 일부가 무한대)
대표 출처	감쇠 진동, 회전체(자이로스코프), 음향-구조 연성, 도파관 분산
표준 해법	$2n$ 크기 선형화 → QZ(밀집) 또는 크릴로프(대형)
함정	선형화·스케일링에 따라 후진 오차가 수억 배 달라진다

감쇠를 넣는 순간 고유값 문제는 2차가 되고, 모드는 복소수가 되며, 고유벡터는 더 이상 직교하지 않는다.

2차 고유값 문제(quadratic eigenvalue problem, QEP)는 $n \times n$ 행렬 $M$, $C$, $K$ 에 대해

$$Q(\lambda)\,x = (\lambda^2M + \lambda C + K)\,x = 0, \qquad x \ne 0$$

을 만족하는 스칼라 $\lambda$ 와 벡터 $x$ 를 찾는 문제다. 감쇠가 있는 구조물의 자유 진동 $M\ddot u + C\dot u + Ku = 0$ 에 $u = xe^{\lambda t}$ 를 넣으면 곧바로 이 형태가 된다. $\lambda$ 의 허수부가 감쇠 고유진동수, 실수부가 감쇠율이다.

$C = 0$ 이면 $\mu = -\lambda^2$ 로 두어 모드 해석의 일반화 고유값 문제 $Kx = \mu Mx$ 로 내려가고, $M$, $K$ 가 대칭 양정치이면 고유벡터가 $M$-직교하는 실수 모드가 나온다. 비례 감쇠(레일리 감쇠 $C = aM + bK$)도 같은 모드로 대각화된다. 그 밖의 일반 감쇠, 자이로스코프 항, 순환(비보존) 힘이 들어오면 QEP 를 그대로 풀어야 한다. 티쇠르·메르베르헌(2001)의 SIAM Review 서베이가 이 분야의 표준 참고문헌이다.

2. 스펙트럼의 생김새

• 고유값은 $2n$ 개. $\det Q(\lambda)$ 는 $\lambda$ 의 $2n$ 차 다항식이다(최고차 계수 $\det M$). $M$ 이 특이하면 차수가 떨어지고 그만큼이 무한대 고유값으로 간다 — 질량 없는 자유도(구속, 라그랑주 승수)가 있으면 흔하다. $K$ 가 특이하면 $\lambda = 0$(강체 모드)이 생긴다.
• 고유벡터가 $2n$ 개인데 공간은 $n$ 차원. 따라서 고유벡터는 일차독립일 수 없고, 선형 문제의 「고유벡터로 전개」 직관이 그대로는 통하지 않는다. 해의 전개는 아래 선형화의 $2n$ 차원 상태 공간에서 한다.
• 실수 계수면 켤레쌍. $M$, $C$, $K$ 가 실수면 고유값이 실수이거나 켤레쌍이다.
• 대칭 양정치 $M$, $C$, $K$ 면 안정. 모든 고유값의 실수부가 음이다(에너지가 감쇠로만 빠져나간다). 자유도 50 개의 질량-스프링-감쇠 사슬($M = I$, $K = 10^8T$, $C = 10T$, $T$ 는 삼중대각 $[-1, 2, -1]$)로 풀어 보면 고유값 100개, 실수부 최댓값 $-0.019$ 로 모두 안정이다.

과감쇠 판정. $M$, $K$ 가 양정치, $C$ 가 양정치이고 모든 $x \ne 0$ 에 대해

$$(x^*Cx)^2 > 4\,(x^*Mx)(x^*Kx)$$

이면 과감쇠(overdamped)라 하고, 고유값이 전부 실수·음수이며 $n$ 개씩 두 무리로 갈린다. 1자유도의 「$c^2 > 4mk$」 조건($\zeta > 1$)의 다자유도판이다. $M = I$, $K = T$, $C = \gamma I$ 이면 조건이 $\gamma > 2\sqrt{\lambda_{\max}(T)}$ 가 되는데, 그 값의 0.9 배로 놓으면 고유값 100개 중 72개만 실수, 1.01 배면 100개 전부 실수였다. 1자유도로 돌아가 $m = 1$, $c = 0.4$, $k = 4$ 면 근 $-0.2 \pm 1.990i$ 이고, 감쇠비 $\zeta = c/(2\sqrt{km}) = 0.1$, 감쇠 고유진동수 $\omega_n\sqrt{1 - \zeta^2} = 1.990$ 과 맞는다.

자이로스코프 계. 회전체 동역학에서는 $C = \Omega G$ ($G$ 반대칭, $\Omega$ 회전수)가 들어간다. 감쇠 없는 $M\ddot u + \Omega G\dot u + Ku = 0$ 은 해밀토니안 구조라 고유값이 $\lambda, -\lambda, \bar\lambda, -\bar\lambda$ 사중으로 묶인다. 회전수에 따라 고유진동수가 전진·후진 휘돌림으로 갈라지는 것이 캠벨 선도이고, 그 교차가 위험 회전수다.

3. 선형화 — $2n$ 짜리 펜슬로 바꾸기

밀집 QEP 의 표준 해법은 선형화(linearization)¹ — $z = \begin{pmatrix} x\\ \lambda x\end{pmatrix}$ 로 크기 $2n$ 의 일반화 고유값 문제 $Az = \lambda Bz$ 를 만들고 QZ 알고리즘으로 푼다. 동반 행렬이 스칼라 다항식에 하는 일을 행렬 계수로 한 것이다. 대표적인 두 형태:

$$\text{1종 동반형:}\quad \begin{pmatrix} 0 & I\\ -K & -C\end{pmatrix}z = \lambda\begin{pmatrix} I & 0\\ 0 & M\end{pmatrix}z$$ $$\text{대칭형:}\quad \begin{pmatrix} -K & 0\\ 0 & M\end{pmatrix}z = \lambda\begin{pmatrix} C & M\\ M & 0\end{pmatrix}z$$

동반형은 언제나 쓸 수 있고, 대칭형은 $M$, $C$, $K$ 가 대칭일 때 펜슬의 대칭성을 보존해 대칭 란초스류 반복을 쓸 수 있게 한다. 선형화는 사실 무한히 많다 — 맥키·맥키·멜·메르만(2006)이 선형화들의 벡터 공간 $\mathbb{L}_1$, $\mathbb{L}_2$ 를 정의하고, 그 안에서 구조(대칭·팔린드롬·해밀토니안)를 보존하는 것을 고르는 이론을 세웠다. 같은 고유값을 주지만 반올림 오차에 대한 민감도는 선형화마다 다르다.

4. 스케일링과 후진 오차

QEP 근사 고유쌍 $(\tilde\lambda, \tilde x)$ 의 정규화 후진 오차(티쇠르 2000)는

$$\eta(\tilde\lambda, \tilde x) = \frac{\|Q(\tilde\lambda)\tilde x\|}{\big(|\tilde\lambda|^2\|M\| + |\tilde\lambda|\|C\| + \|K\|\big)\|\tilde x\|}$$

이다. 선형화 $2n$ 문제를 후진 안정한 QZ 로 풀어도 이것이 기계 엡실론 근처라는 보장은 없다. 선형화의 블록들이 $\|M\|$, $\|C\|$, $\|K\|$ 의 크기 차이를 그대로 끌고 들어오기 때문이다.

처방이 판·린·반 두런(2004)의 노름 스케일링이다. $\lambda = \gamma\mu$ 로 고유값을 다시 스케일하고 전체에 $\delta$ 를 곱해

$$\gamma = \sqrt{\|K\|/\|M\|}, \qquad \delta = \frac{2}{\|K\| + \gamma\|C\|}$$

로 $\tilde M = \gamma^2\delta M$, $\tilde C = \gamma\delta C$, $\tilde K = \delta K$ 를 만들면 세 계수의 노름이 1 근처로 맞춰진다. 1종 동반형 + QZ 로 재 본 최대 후진 오차(전 고유쌍, 위쪽 블록에서 고유벡터 추출):

문제	스케일링 없음	판-린-반 두런 스케일링
강성 사슬 $M = I$, $C = 10T$, $K = 10^8T$	2.4e-7	3.4e-15
$M = 10^{-6}I$, $C = T$, $K = 10^6T$	2.4e-9	1.6e-15

강성 $10^8$ 수준의 평범한 구조 모델에서도 스케일링 한 줄로 후진 오차가 8자리 좋아진다. 구조 단위계(N·m·kg 대 N·mm·t)만 바꿔도 노름 비가 수천 배 바뀌는 분야라, 스케일링 없이 동반형을 그대로 QZ 에 넣는 것은 정확도를 운에 맡기는 셈이다.² 해머링·먼로·티쇠르(2013)의 quadeig 는 이 스케일링, 0·무한대 고유값의 사전 제거(결손 감축), 그리고 고유값 크기에 따라 선형화 고유벡터의 위·아래 블록 중 나은 쪽을 고르는 규칙을 묶은 밀집 QEP 솔버다.

5. 대형 문제

유한요소 모델은 $n$ 이 수십만~수백만이라 $2n$ 밀집 QZ 는 불가능하다. 필요한 것은 관심 주파수 대역의 고유값 몇십 개다.

• 선형화 + 시프트-역변환 크릴로프. 선형화 펜슬에 아놀디 알고리즘(ARPACK)을 시프트-역변환으로 돌린다. 역변환에 필요한 $(A - \sigma B)^{-1}$ 는 블록 소거로 $n$ 크기의 $Q(\sigma)$ 인수분해 하나로 줄어든다 — $2n$ 크기 행렬을 실제로 인수분해하지 않는다.
• 2차 아놀디(SOAR)·TOAR. 크릴로프 기저를 $2n$ 벡터가 아니라 $n$ 벡터 두 줄로 보관해 메모리를 반으로 줄이고, 투영된 작은 문제가 다시 QEP 가 되게 해 구조를 보존한다.
• 모드 축소. 실무에서 가장 흔한 길은 비감쇠 모드 $Kx = \omega^2Mx$ 를 먼저 수십~수백 개 뽑고, 그 기저로 $M$, $C$, $K$ 를 사영한 작은 QEP 를 밀집으로 푸는 것이다. 감쇠가 작고 국소적이지 않으면 잘 맞고, 집중 감쇠기(댐퍼)·점탄성 패치처럼 감쇠가 강하게 국소화되면 기저 절단 오차가 커진다.

같은 틀이 진동만이 아니다. 도파관·포노닉 결정의 분산 관계를 「주파수를 주고 파수 $k$ 를 구하는」 방향으로 풀면 $k$ 에 대한 QEP 가 나오고, 전산음향학의 흡음 경계·음향-구조 연성, 유체역학의 오르-좀머펠트 안정성 해석(공간 성장률 문제)도 QEP 혹은 더 높은 차수의 다항식 고유값 문제다. 계수가 $\lambda$ 에 비다항식으로 의존하면(지연, 주파수 의존 재료) 비선형 고유값 문제로 넘어간다.³

6. 관련 문서

• 고유값 문제 · 동반 행렬 · QZ 알고리즘 · 비선형 고유값 문제
• 모드 해석 · 감쇠 · 회전체 동역학 · 위험 회전수 · 구조해석
• 후진 오차 해석 · 고유값 조건수 · 행렬 균형화 · 아놀디 알고리즘 · ARPACK
• 도파관 · 전산음향학

7. Footnotes

1. 「그냥 상태공간으로 바꿔서 eig 돌리면 되지 않나?」는 맞는 말이다. 다만 그 「그냥」 안에 선형화 선택·스케일링·고유벡터 추출 블록 선택이라는 세 개의 결정이 숨어 있고, 기본값이 셋 다 최선은 아니다. ↩

2. 같은 모델을 mm 단위계로 다시 내보냈더니 감쇠비가 소수점 셋째 자리부터 바뀌었다는 현업 괴담의 상당수가 이 스케일링 문제다. 물리는 단위계를 모르지만 QZ 는 안다. ↩

3. 티쇠르·메르베르헌 서베이는 개통 사흘 만에 흔들려 문을 닫은 런던 밀레니엄 다리 이야기로 시작하고, 고속철 레일 진동은 팔린드롬 QEP 의 대표 예제다. 2차 고유값 문제는 생각보다 현생 가까이에 있다. ↩