리카티 방정식

1. 개요[편집]

리카티 방정식(Riccati equation)은 미지 함수(또는 미지 행렬)의 이차항을 포함하는 비선형 방정식으로, 최적 제어와 상태 추정의 심장부에 앉아 있다. 원래는 18세기 야코포 리카티가 다룬 스칼라 미분방정식 $y' = q_0(t) + q_1(t)y + q_2(t)y^2$을 가리키는 이름이었는데, 20세기에 이것의 행렬판이 동적 계획법을 선형-이차 제어 문제에 적용했을 때 튀어나오면서 공학 필수 교양이 됐다.

공학에서 마주치는 형태는 두 가지다. 시간에 따라 적분하는 미분 리카티 방정식(DRE)과, 정상상태에서 시간 미분을 0으로 둔 대수 리카티 방정식(ARE). LQR 제어기 이득도, 칼만 필터의 정상상태 공분산도, 모델 예측 제어의 종단 비용 가중도 결국 ARE 하나를 푸는 문제로 귀결된다. **“제어 설계 = ARE 풀기”**라는 말이 과장이 아닌 이유다.¹

2. 스칼라에서 행렬로[편집]

스칼라 리카티 방정식은 이차항 때문에 비선형이지만, 유명한 마술이 하나 있다. $y = -\dfrac{u'}{q_2 u}$로 치환하면 이차항이 정확히 상쇄되어 2계 선형 상미분방정식이 된다. 비선형 방정식을 한 차원 높은 선형 방정식으로 올려 푸는 이 구조는 행렬판에서도 그대로 살아남아, 뒤에 나올 해밀토니안 행렬 방법의 뿌리가 된다.

행렬판은 이렇게 생겼다. 연속시간 대수 리카티 방정식(CARE):

$$A^{\top} P + P A - P B R^{-1} B^{\top} P + Q = 0$$

미지수 $P$는 대칭행렬이고, $PBR^{-1}B^\top P$가 문제의 이차항이다. $n \times n$ 대칭 미지수이므로 미지수 개수는 $n(n+1)/2$개, 이차 연립방정식이라 해가 여러 개 있을 수 있다. 그중 닫힌 루프를 안정하게 만드는 해(stabilizing solution)가 우리가 원하는 유일한 것이다.

3. LQR과 리카티 재귀[편집]

시스템 $\dot{x} = Ax + Bu$에 대해 비용

$$J = \int_{0}^{T} \left( x^{\top} Q x + u^{\top} R u \right) dt + x(T)^{\top} Q_f\, x(T)$$

를 최소화하는 문제가 LQR(Linear Quadratic Regulator)이다. 여기에 동적 계획법을 적용해 보자. 가치함수를 $V(x,t) = x^\top P(t) x$라는 이차형식으로 가정하고 해밀턴-야코비-벨만 방정식에 대입하면, 내부의 $u$에 대한 최소화는 이차식의 완전제곱이라 해석적으로 풀린다. 결과로

$$u^{*} = -R^{-1}B^{\top}P(t)\,x = -K(t)x, \qquad -\dot{P} = A^{\top}P + PA - PBR^{-1}B^{\top}P + Q$$

가 나오고, 종단 조건 $P(T) = Q_f$에서 시간을 거꾸로 적분한다. 이게 미분 리카티 방정식이다. 최적 제어 문제가 상태에 대한 편미분방정식(HJB)에서 행렬에 대한 상미분방정식으로 축소되는 이 지점이 LQR이 실무를 지배하는 이유다 — 비선형 문제라면 상태 차원의 저주를 그대로 맞았을 것이다.²

이산시간판은 곧바로 재귀식이 된다.

$$P_k = Q + A^{\top}P_{k+1}A - A^{\top}P_{k+1}B\left(R + B^{\top}P_{k+1}B\right)^{-1}B^{\top}P_{k+1}A$$

$K_k = (R + B^\top P_{k+1} B)^{-1} B^\top P_{k+1} A$가 그 시각의 이득이다. 유한 지평 MPC의 종단 가중을 정할 때 이 재귀를 몇 스텝 돌려 쓰는 게 표준 처방이고, $k \to -\infty$ 극한이 이산시간 대수 리카티 방정식(DARE)의 안정화 해다.

4. 해밀토니안 행렬과 불변 부분공간[편집]

ARE를 이차방정식으로 정면 돌파하는 대신, 스칼라 때와 같은 “한 차원 올리기”를 쓴다. 상태와 수반변수(co-state)를 묶은 $2n \times 2n$ 행렬

$$H = \begin{bmatrix} A & -BR^{-1}B^{\top} \\ -Q & -A^{\top} \end{bmatrix}$$

를 해밀토니안 행렬이라 한다. 이름값을 하는 성질이 있는데, $J = \begin{bmatrix} 0 & I \\ -I & 0\end{bmatrix}$에 대해 $(JH)^\top = JH$가 성립해서 스펙트럼이 허수축에 대해 대칭이다. 즉 고유값 $\lambda$가 있으면 $-\bar\lambda$도 있다(해밀토니안 역학의 심플렉틱 구조가 그대로 나타난 것이다).

허수축에 고유값이 없다면 안정 고유값(실수부 음수) $n$개가 만드는 안정 불변 부분공간이 유일하게 정해진다. 그 부분공간의 기저를 위아래로 쪼개 $\begin{bmatrix} X \\ Y \end{bmatrix}$로 쓰면

$$P = Y X^{-1}$$

이 바로 안정화 해다. 비선형 행렬방정식이 고유값 문제로 바뀌었다. 리카티를 실제로 푸는 코드는 거의 전부 이 경로를 따른다.

5. 수치 해법[편집]

• 슈어 방법. $H$의 실 슈어 분해를 계산하되 안정 고유값이 왼쪽 위 블록에 모이도록 정렬한 뒤, 대응하는 슈어 벡터로 $P = YX^{-1}$을 얻는다(Laub, 1979). 고유벡터를 직접 쓰지 않고 직교 기저를 쓰므로 수치적으로 안정적이며, 사실상 표준 알고리즘이다. 정렬된 슈어 분해는 QR 분해 기반 QR 알고리즘 위에 재정렬 단계를 얹어 구현한다.
• 행렬 부호 함수법. $H_{j+1} = \tfrac{1}{2}\left(H_j + H_j^{-1}\right)$ 뉴턴 반복으로 $\mathrm{sign}(H)$를 구하면, 그 값이 안정/불안정 부분공간의 사영을 담고 있어 과결정 선형계를 최소제곱으로 풀어 $P$를 얻는다. 행렬 곱셈과 역행렬만 쓰므로 병렬화·블록화에 유리하다.
• 뉴턴법(Kleinman 반복). 안정화 이득 $K_0$에서 출발해 매 반복 리아푸노프 방정식을 한 번 풀고 이득을 갱신한다. 이차 수렴이고 단조성이 보장되지만, 초기 안정화 이득이 필요하고 반복마다 $O(n^3)$이 든다. 대개 슈어 방법의 해를 다듬는 정련 단계로 쓴다.
• DARE 전용. 이산시간에서는 해밀토니안 대신 심플렉틱 펜슬을 쓰고 고유값이 단위원에 대해 $\lambda \leftrightarrow 1/\bar{\lambda}$로 짝지어진다. $A$가 특이여도 무너지지 않도록 펜슬 형태를 유지하는 방법과, 반복마다 지평을 두 배로 늘리는 배가 알고리즘(SDA)이 표준이다.

6. 존재·유일성 조건[편집]

아무 시스템에나 안정화 해가 있는 건 아니다. $Q = C^\top C$, $R \succ 0$이라 할 때 정리는 이렇다.

$(A, B)$가 안정화 가능(stabilizable)하고 $(A, C)$가 검출 가능(detectable)하면, CARE는 유일한 대칭 반정부호 안정화 해 $P \succeq 0$을 가지며 닫힌 루프 $A - BR^{-1}B^\top P$는 후르비츠다.

안정화 가능성이 없으면 애초에 비용을 유한하게 만들 수 없고, 검출 가능성이 없으면 비용이 보지 못하는 불안정 모드가 남아 해가 안정화에 실패한다. $(A,C)$가 완전 관측 가능이면 $P \succ 0$까지 올라간다. 유한 지평 DRE의 해는 이 조건 아래에서 $T \to \infty$일 때 ARE 해로 수렴하며, 시변 이득 $K(t)$는 초기 구간을 빼면 사실상 상수가 된다 — 실무에서 정상상태 이득 하나만 계산해 쓰는 근거가 이것이다. ARE의 안정화 해는 선형행렬부등식 형태로도 특징지어져서, 부등식 완화를 반정부호 계획법으로 푸는 우회로도 널리 쓰인다.

7. 칼만 필터의 쌍대 리카티[편집]

추정 쪽으로 넘어가면 완전히 대칭적인 그림이 나온다. 칼만 필터의 오차 공분산 $P$는

$$\dot{P} = AP + PA^{\top} - PC^{\top}R^{-1}CP + Q$$

를 만족한다. CARE와 비교하면 $A \to A^\top$, $B \to C^\top$로 바꾼 것이고, 결정적 차이는 시간 방향이다. 제어의 리카티는 종단 조건에서 뒤로 적분하고, 추정의 리카티는 초기 공분산에서 앞으로 전파한다. 이 대응이 제어와 추정의 쌍대성이며, 칼만 이득은 $L = PC^\top R^{-1}$로 LQR 이득과 같은 자리에 앉는다. 시간불변 시스템에서 필터를 오래 돌리면 $P$가 정상값에 수렴하므로, 매 스텝 공분산을 전파하는 대신 정상상태 칼만 이득을 미리 계산해 상수 이득 필터로 돌리는 최적화가 가능하다.

수치적으로 악명 높은 함정도 여기서 나온다. 공분산 갱신을 소박한 형태로 구현하면 반올림 오차 때문에 $P$가 대칭성이나 반정부호성을 잃고, 그 상태로 이차항이 한 번 곱해지면 필터가 발산한다. 대칭화를 강제하는 조지프 형식이나, $P$ 대신 그 제곱근 인수를 전파하는 제곱근 필터·UD 분해 필터가 쓰이는 이유다.³ 불확실성 정량화나 자료동화 쪽에서 앙상블로 공분산을 대체하는 접근도 결국 같은 문제를 다른 방식으로 회피한 것이다.

8. 관련 문서[편집]

• 칼만 필터 · 앙상블 칼만 필터 · 센서 융합
• 모델 예측 제어 · PID 제어
• 동적 계획법 · 최적 제어
• 해밀토니안 역학 · 변분법
• 반정부호 계획법 · 이차계획법
• 고유값 문제 · QR 분해 · 리아푸노프 방정식
• 자료동화 · 역문제

9. Footnotes[편집]

1. 리카티 본인은 유체나 제어와 아무 상관 없이 곡률 문제를 다루다 이 방정식을 만났다. 250년 뒤 아폴로 유도 컴퓨터가 자기 이름이 붙은 방정식을 실시간으로 풀고 있을 줄은 몰랐을 것이다. ↩

2. 가치함수가 이차형식이라는 “가정”이 통하는 이유는 선형 동역학 + 이차 비용 조합에서 이차형식이 벨만 백업에 대해 닫혀 있기 때문이다. 이 닫힘성이 깨지는 순간(제약 하나만 추가해도) 해석해는 증발하고 우리는 매 주기 QP를 푸는 MPC의 세계로 끌려간다. ↩

3. 아폴로 항법 소프트웨어가 실제로 제곱근 형식을 채택한 이유가 이것이다. 당시 워드 길이가 짧아 공분산이 음의 고유값을 갖는 사고가 잦았다. “수학적으로는 항상 반정부호”라는 문장은 부동소수점 앞에서 아무 보호막이 되어 주지 않는다. ↩