쿠프만 연산자

1. 개요

쿠프만 연산자 Koopman Operator
도입	버나드 O. 쿠프만 (1931)
작용 대상	상태가 아니라 관측함수 g(x)
성질	비선형 동역학에 대해서도 선형 (대신 무한차원)
쌍대	페론-프로베니우스(전달) 연산자
데이터 근사	DMD, 확장 DMD(EDMD), 커널 EDMD
재조명	메지치 (2005), 롤리 외 (2009)

비선형 계를 선형으로 만들어 주겠다. 대신 차원은 무한대로 받아 간다.

쿠프만 연산자(Koopman operator)는 동역학계 $\mathbf x_{k+1} = F(\mathbf x_k)$ 의 상태 대신 상태 위에서 정의된 관측함수 $g(\mathbf x)$ 를 시간 진행시키는 연산자 $\mathcal K g = g\circ F$ 다. $F$ 가 아무리 비선형이어도 $\mathcal K$ 는 함수 공간 위의 선형 연산자라서, 고유값·고유함수·모드 분해 같은 선형대수의 도구를 비선형 동역학에 그대로 들이댈 수 있다. 대가는 그 함수 공간이 대개 무한차원이라는 것이다.

1931년 쿠프만이 해밀턴계를 힐베르트 공간의 유니터리 변환으로 다루려고 도입했고,¹ 이듬해 폰 노이만이 이것으로 평균 에르고딕 정리를 증명했다. 70년 가까이 에르고딕 이론의 도구로 머물던 것을 메지치(2005)가 모델 축소·데이터 분석의 언어로 되살렸고, 롤리 외(2009)가 동적 모드 분해(DMD)가 쿠프만 모드를 근사한다는 것을 보이면서 유체역학·제어·기후 데이터 분석의 유행어가 됐다. DMD 문서가 “DMD 가 무엇을 근사하는가”를 한 절로 짚었다면, 이 문서는 연산자 쪽에서 출발해 고유함수의 성질, 유한 닫힘이 성립하는 드문 경우, 그리고 확장 DMD 로 그것을 데이터에서 뽑는 법을 다룬다.

2. 정의와 기본 성질

이산시간 $\mathbf x_{k+1} = F(\mathbf x_k)$ 에서

$$(\mathcal K g)(\mathbf x) = g\bigl(F(\mathbf x)\bigr).$$

선형성은 정의에서 바로 나온다: $\mathcal K(ag_1 + bg_2) = a\,\mathcal Kg_1 + b\,\mathcal Kg_2$. 연속시간 흐름 $\dot{\mathbf x} = \mathbf f(\mathbf x)$ 에서는 흐름 사상 $\Phi^t$ 로 연산자 반군 $\mathcal K^t g = g\circ\Phi^t$ 를 만들고, 그 생성자는

$$\mathcal L g = \frac{d}{dt}\,g(\mathbf x(t)) = \mathbf f(\mathbf x)\cdot\nabla g(\mathbf x)$$

다. 상태공간의 비선형 상미분방정식이 관측함수 공간의 선형 1계 편미분방정식으로 바뀐 셈이다.

고유함수. $\mathcal K\varphi = \lambda\varphi$ 를 만족하는 $\varphi$ 를 쿠프만 고유함수라 한다. 궤적을 따라가면 $\varphi(\mathbf x_k) = \lambda^k\varphi(\mathbf x_0)$ — 비선형 궤적 위에서도 이 함수값만은 정확히 기하급수적으로 움직인다. 고유함수는 곱에 대해 닫혀 있다는 점이 중요하다. $\mathcal K(\varphi_1\varphi_2) = (\varphi_1\circ F)(\varphi_2\circ F) = \lambda_1\lambda_2\,\varphi_1\varphi_2$ 이므로 고유값의 곱도 고유값이다. 고정점 근처 선형화의 고유값이 $\lambda_1, \lambda_2$ 면 쿠프만 스펙트럼에는 $\lambda_1^a\lambda_2^b$ 가 격자처럼 깔린다. 연속시간이면 지수 쪽에서 $a\mu_1 + b\mu_2$ 의 정수 결합이다.

쿠프만 모드 분해. 벡터값 관측 $\mathbf g$ 를 고유함수로 전개할 수 있다면

$$\mathbf g(\mathbf x_k) = \sum_j \lambda_j^k\,\varphi_j(\mathbf x_0)\,\mathbf v_j$$

이고, $\mathbf v_j$ 가 쿠프만 모드다. 유체 스냅숏을 $\mathbf g$ 로 놓으면 이것이 바로 DMD 가 내놓는 모드·고유값 쌍의 정체다 — 단, 아래에서 보듯 조건이 붙는다.

쌍대. 쿠프만 연산자의 수반(adjoint)은 확률밀도를 앞으로 미는 페론-프로베니우스(전달) 연산자다. 쿠프만은 관측량을, 페론-프로베니우스는 분포를 진행시킨다 — 양자역학의 하이젠베르크 그림과 슈뢰딩거 그림의 관계와 닮았다.² 집합 지향 방법(울람 방법 등)으로 상태공간을 칸으로 쪼개 전달 행렬을 만드는 접근이 이쪽 계보다.

3. 유한 닫힘 — 선형화가 정확해지는 경우

대부분의 비선형계에서는 유한 개 관측함수로 쿠프만 불변 부분공간을 만들 수 없다. 그러나 장난감이면서 교과서적인 예외가 있다. 브런턴 외(2016)가 쓴 예제

$$\dot x_1 = \mu x_1, \qquad \dot x_2 = \lambda\,(x_2 - x_1^2)$$

에서 관측 $\mathbf y = (x_1,\ x_2,\ x_1^2)$ 를 잡으면 $\frac{d}{dt}x_1^2 = 2\mu x_1^2$ 이므로

$$\frac{d}{dt}\begin{pmatrix}x_1\\ x_2\\ x_1^2\end{pmatrix} = \begin{pmatrix}\mu & 0 & 0\\ 0 & \lambda & -\lambda\\ 0 & 0 & 2\mu\end{pmatrix} \begin{pmatrix}x_1\\ x_2\\ x_1^2\end{pmatrix}$$

로 정확히 닫힌다. 원래 상태 $(x_1, x_2)$ 만으로는 $x_1^2$ 항 때문에 닫히지 않지만, 비선형항 자체를 관측으로 끌어들이자 3차원 선형계가 됐다. 고유값은 $\mu$, $\lambda$, $2\mu$ — 마지막 것은 위의 “고유값 곱(지수 합)” 규칙이 만든 것이다. $|\lambda| \gg |\mu|$ 이면 궤적이 빠르게 느린 다양체 $x_2 = \lambda x_1^2/(\lambda - 2\mu)$ 로 붙는데, 이 포물선이 선형 쿠프만 표현 안에서는 그냥 한 고유함수의 영점 집합이다.

3.1. 검산 — EDMD 로 고유값 되찾기

위 계를 $\mu=-0.05$, $\lambda=-1$, $\Delta t = 0.1$ 로 놓고 $[-1,1]^2$ 에서 무작위 초기점 200개를 해석해로 한 스텝씩 밀어 스냅숏 쌍을 만들었다. 사전(dictionary) $\boldsymbol\psi(\mathbf x)$ 로 두 경우를 비교해 확장 DMD(EDMD; 윌리엄스·케브레키디스·롤리 2015) 행렬 $K = \Psi_X^{+}\Psi_Y$ 의 고유값을 구하고 $\log(\cdot)/\Delta t$ 로 연속시간 지수로 바꿨다.

사전	구한 지수	정답
$(x_1,\ x_2,\ x_1^2)$	$-1.0000,\ -0.1000,\ -0.0500$	$\lambda=-1,\ 2\mu=-0.1,\ \mu=-0.05$
$(x_1,\ x_2)$ — 좌표만(= 보통 DMD)	$-1.0480,\ -0.0500$	위와 같음

불변 부분공간을 치는 사전에서는 세 지수가 표시 자릿수까지 정확히 나왔다. 좌표만 쓰면 $2\mu$ 는 아예 사라지고, $\lambda$ 는 $-1.048$ 로 5% 가까이 틀린다. 놓친 $x_1^2$ 성분의 영향이 최소제곱 사영을 통해 남은 고유값을 끌어당긴 것이다. 데이터를 아무리 많이 넣어도 이 편향은 줄지 않는다 — 오차의 원인이 표본이 아니라 사전의 부분공간이기 때문이다. DMD 문서의 경고(“관측함수들이 쿠프만 불변 부분공간을 치고 있을 때만”)가 숫자로 보인다.

4. 데이터에서 근사하기

EDMD. 사전 $\boldsymbol\psi = (\psi_1,\dots,\psi_N)$ 을 고르고, 스냅숏 쌍 $(\mathbf x_i, \mathbf y_i = F(\mathbf x_i))$ 에서 $\Psi_X$, $\Psi_Y$ 를 만들어 최소제곱 $\min_K\|\Psi_Y - \Psi_X K\|_F$ 를 푼다. 데이터가 불변 측도에서 충분히 뽑히면 $K$ 는 사전이 치는 부분공간으로의 갤러킨 사영과 같아진다. 사전이 다항식이면 위 예처럼, 방사 기저 함수나 푸리에 기저면 더 일반적인 계를 다룬다. 사전이 커지면 커널 트릭을 쓰는 커널 EDMD 로 넘어간다.

좌표만 쓰면 DMD. $\boldsymbol\psi(\mathbf x) = \mathbf x$ 로 두면 EDMD 가 그대로 DMD 가 된다. 고차원 유체 스냅숏에서 DMD 가 그나마 잘 듣는 이유는, 상태 차원이 커서 좌표 자체가 이미 꽤 풍부한 사전 노릇을 하기 때문이다. 반대로 저차원 비선형계에 DMD 를 쓰면 위 검산처럼 쉽게 틀린다.

함정 셋.

• 허위 고유값. 유한 사전 위의 최소제곱 사영은 진짜 쿠프만 고유값이 아닌 값을 내놓을 수 있다. 고유함수 후보 $\varphi = \boldsymbol\psi^{\mathsf T}\mathbf w$ 에 대해 데이터에서 잔차 $\|\varphi\circ F - \lambda\varphi\|/\|\varphi\|$ 를 재 보고 큰 것은 버리는 잔차 검증(ResDMD 계열)이 이 문제의 처방으로 제안돼 왔다.
• 연속 스펙트럼. 카오스나 혼합(mixing) 계의 쿠프만 연산자에는 점스펙트럼 대신 연속 스펙트럼이 있다. 유한 행렬은 고유값만 가질 수 있으니 연속 스펙트럼을 이산 고유값 무리로 흉내 낸다. 로렌츠계에서 EDMD 가 내놓는 “모드”를 물리적 진동으로 읽으면 안 되는 이유다.³
• 잡음. 스냅숏 $\mathbf x$ 쪽에도 잡음이 있으면 보통 최소제곱은 감쇠율을 과대평가하는 쪽으로 편향된다. 양쪽 잡음을 대칭으로 다루는 총최소제곱 DMD 가 이를 위한 대안이다.

5. 무엇에 쓰나

• 유동 분석. 실린더 후류·공동 유동에서 쿠프만 모드는 지배 주파수와 그 고조파(고유값 곱 규칙!)를 분리한다. 적합직교분해가 에너지 순으로 모드를 고른다면 쿠프만 모드는 주파수·성장률 순으로 고른다.
• 제어. 쿠프만 표현 위에서는 비선형 계가 (근사적으로) 선형이므로 선형 모델 예측 제어·LQR 을 쓸 수 있다. 입력이 있는 계로 확장한 DMDc·쿠프만 MPC 가 이 계열이고, 사전 선택과 입력-상태 결합이 여전히 열린 문제다.
• 전력망·건물 에너지·기후. 메지치 그룹이 전력계통 진동 모드 분석과 건물 열 동역학에 적용한 이래, 고차원 측정 데이터에서 저차원 동역학을 뽑는 도구로 쓰인다.
• 학습된 사전. 사전을 손으로 고르는 대신 신경망 오토인코더로 학습하는 “딥 쿠프만” 접근이 2017년 무렵부터 나왔다. 사전 공간이 불변에 가까운지 검증하는 게 여전히 핵심이고, 학습이 그걸 보장해 주지는 않는다.

6. 관련 문서

• 동적 모드 분해 · 적합직교분해 · 축소차수모델 · 동역학계
• 확장 DMD · 페론-프로베니우스 연산자 · SINDy · 총최소제곱
• 에르고딕 가설 · 리우빌 정리 · 로렌츠 방정식 · 관성 다양체
• 갤러킨 방법 · 방사 기저 함수 · 모델 예측 제어

7. Footnotes

1. 쿠프만은 이 논문 이후 군사 작전연구, 특히 잠수함 탐색 이론 쪽에서 더 유명해졌다. 본인 이름이 21세기 데이터과학 유행어가 될 줄은 몰랐을 것이다. ↩

2. 쿠프만의 1931년 논문이 고전역학을 “양자역학처럼” 힐베르트 공간에 올리려는 시도였으니 닮은 게 당연하다. 고전역학을 양자역학 언어로 다시 쓰는 쿠프만-폰 노이만 역학이 같은 뿌리다. ↩

3. 카오스 데이터에 DMD 를 돌려 깔끔한 모드 열두 개를 얻었다면, 기뻐하기 전에 잔차부터 재라. 대개는 연속 스펙트럼이 행렬 크기에 맞춰 예쁘게 썰린 것이다. ↩