불변 다양체

수치해석 계산물리 물리 마지막 수정: 2026-08-11 04:38:57

1. 개요[편집]

불변 다양체 Invariant manifold
정의	흐름이 자기 자신으로 보내는 부분다양체
세 가족	안정 W^s · 불안정 W^u · 중심 W^c
존재 정리	아다마르-페롱 (안정 다양체 정리)
매끄러움	벡터장과 같은 C^k (중심만 예외적으로 까다로움)
지속성 조건	법선 쌍곡성 (페니첼 1971)
공학적 얼굴	유역 경계 · 수송 장벽 · 느린 다양체

불변 다양체(invariant manifold)는 흐름이나 사상이 자기 자신 안으로 보내는 부분다양체다. 집합 $M$ 에 대해 $\varphi_t(M) \subseteq M$ 이면 불변이라 하고(양방향으로 성립하면 완전 불변), 거기에 매끄러운 다양체 구조가 붙었다는 것이 이 개념의 핵심이다. 불변집합은 칸토어 가루처럼 험할 수 있지만, 불변 다양체는 접공간이 있고 미분할 수 있고 무엇보다 격자 없이 저차원 대상으로 계산할 수 있다.

동역학계에서 불변 다양체가 중요한 이유는 그것이 상태공간의 골격이기 때문이다. 어떤 궤도가 어디로 갈지는 결국 그 궤도가 골격의 어느 쪽에 있느냐로 정해진다. 흡인 유역의 경계, 카오스를 만드는 얽힘(호모클리닉 궤도), 유체 입자가 넘지 못하는 수송 장벽, 강성 화학 반응계의 느린 진행 방향이 전부 불변 다양체다.

세 가족 중 중심 다양체의 이론(존재·비유일성·급수 계산·분기 해석에서의 역할)은 중심 다양체 정리가 통째로 다루므로 여기서 반복하지 않는다. 이 문서는 안정·불안정 다양체, 그리고 무엇보다 평형점 밖의 불변 다양체가 섭동을 견디는 조건(법선 쌍곡성)과 그 공학적 귀결에 무게를 둔다.

2. 안정 다양체와 불안정 다양체[편집]

쌍곡 평형점 $\mathbf x^*$ 에서 야코비안의 고유공간이 $\mathbb R^n = E^s \oplus E^u$ 로 쪼개진다는 것은 하트만-그로브만 정리에서 본 대로다. 비선형 계에서 이에 대응하는 대상이

W^s(\mathbf x^*) = \{\mathbf x : \varphi_t(\mathbf x) \to \mathbf x^*,\ t\to+\infty\}, \qquad W^u(\mathbf x^*) = \{\mathbf x : \varphi_t(\mathbf x) \to \mathbf x^*,\ t\to-\infty\}

이다. 안정 다양체 정리(아다마르-페롱)가 보장하는 것은 세 가지다. (i) 국소적으로 $W^s_{\text{loc}}$ 는 $E^s$ 에 접하는 차원 $\dim E^s$ 의 다양체다. (ii) 벡터장이 $C^k$ 면 이 다양체도 $C^k$ 다 — 위상동형밖에 못 주는 하트만-그로브만과 대비되는 지점이며, 그래서 다양체는 고차 테일러 전개로 안정적으로 계산할 수 있다. (iii) 수렴은 지수적이고 그 지수는 해당 고유값들이 정한다.

대역 다양체는 국소 조각을 흘려서 얻는다.

W^s = \bigcup_{t\le 0}\varphi_t\big(W^s_{\text{loc}}\big)

대역 다양체는 다양체이긴 하나 매장(embedded)이 아닐 수 있다 — 자기 자신에게 무한히 가까이 감기며 얽히는 것이 정상이고, 그 결과가 호모클리닉 얽힘이다.

여기에 자주 인용되는 보조정리 하나가 붙는다. 경사 보조정리( $\lambda$ -보조정리)는 ” $W^s$ 를 횡단하는 작은 원판을 흐름에 실어 보내면, 그 상이 $W^u$ 에 $C^1$ 으로 점점 가까워진다”고 말한다. 실무적으로 이건 두 가지를 뜻한다. 첫째, 불안정 다양체는 관측 가능하다 — 아무 초기조건이나 잡아 전진 적분하면 궤도가 곧 $W^u$ 위에 얹힌다. 둘째, 안정 다양체는 관측 불가능하다 — 전진 적분으로는 절대 안 보이므로 역방향 적분이나 경계값 문제로 따로 계산해야 한다. 유역 경계를 그리는 일이 유역을 칠하는 일보다 까다로운 이유가 이것이다.

주기궤도에도 같은 구조가 붙는다. 플로케 승수가 단위원 안팎으로 갈리면 그 궤도의 안정·불안정 다양체는 관 모양(원기둥)이 되고, 이 관들이 서로 교차하며 만드는 통로가 천체역학의 저에너지 전이 궤도 설계에 쓰인다.

3. 지속성 — 법선 쌍곡성[편집]

평형점은 쌍곡이면 섭동에 살아남는다. 그렇다면 평형점이 아닌 불변 다양체는 언제 살아남을까? 답이 법선 쌍곡 불변 다양체(normally hyperbolic invariant manifold, NHIM)다.

콤팩트 불변 다양체 $M$ 위에서 접공간이 $T\mathbb R^n|_M = TM \oplus E^s \oplus E^u$ 로 불변 분해되고, 다음 속도 비교 조건이 성립한다고 하자.

\|D\varphi_t|_{E^s}\| \le C e^{-\alpha t},\quad \|D\varphi_{-t}|_{E^u}\| \le C e^{-\alpha t},\quad \|D\varphi_{\pm t}|_{TM}\| \le C e^{\lambda t},\qquad \lambda < \alpha

즉 다양체를 가로지르는 방향의 수축·팽창이 다양체를 따라가는 방향의 변화보다 지배적이면 $M$ 을 법선 쌍곡이라 한다. 이때 페니첼(1971)과 허시-퍼그-슈브(1977)의 정리는 $C^1$ -작은 섭동에 대해 근처에 불변 다양체 $M_\varepsilon$ 이 유일하게 존재하고 $M$ 에 $O(\varepsilon)$ 만큼 가까우며, 매끄러움이 $r < \alpha/\lambda$ 인 $C^r$ 까지 보장된다고 말한다. 부등식이 정량적이라는 점을 눈여겨볼 만하다 — 법선 방향의 우세가 아슬아슬할수록 살아남는 다양체가 거칠어진다.

이 조건이 왜 필요한지는 실패 사례가 알려 준다. KAM 정리의 불변 토러스는 법선 방향이 쌍곡이 아니라 타원형(중립)이라 이 정리의 보호를 못 받는다. 그래서 KAM 토러스는 “대부분 살아남지만 일부는 부서지고, 살아남는 것을 고르는 기준이 진동수의 무리성”이라는 훨씬 까다로운 이야기가 된다. 반대로 법선 쌍곡성이 있으면 살아남는 것이 공짜이고, 게다가 유일하다 — 중심 다양체가 무한히 많았던 것과 정면으로 대비되는 성질이다.

4. 느린 다양체 — 강성 방정식의 정체[편집]

공학에서 NHIM이 가장 자주 등장하는 얼굴이 느린 다양체(slow manifold)다. 느린-빠른 계

\dot{\mathbf x} = \mathbf f(\mathbf x,\mathbf y),\qquad \varepsilon\,\dot{\mathbf y} = \mathbf g(\mathbf x,\mathbf y),\qquad 0<\varepsilon\ll1

에서 $\varepsilon=0$ 으로 두면 대수 구속 $\mathbf g = 0$ 이 정의하는 임계 다양체 $S_0$ 가 나온다. $\partial\mathbf g/\partial\mathbf y$ 의 고유값이 허수축을 피하면 $S_0$ 는 법선 쌍곡이고, 페니첼 이론이 $\varepsilon>0$ 에서 $O(\varepsilon)$ 떨어진 곳에 진짜 불변 다양체 $S_\varepsilon$ 가 존재함을 준다.

이 한 문단이 강성 방정식의 기하학적 해설 전부다. 초기 과도구간에서 궤도는 빠른 방향으로 $O(\varepsilon)$ 시간 안에 $S_\varepsilon$ 로 붕괴하고, 그다음부터는 느린 다양체 위를 따라 기어간다. 명시적 적분기가 시간간격을 빠른 시간척도에 묶이는 이유는 이미 다 죽은 빠른 방향을 여전히 해상해야 하기 때문이고, 음함수 적분기가 큰 걸음을 걸을 수 있는 이유는 그 걸음이 사실상 $S_\varepsilon$ 위의 운동만 좇기 때문이다. $\varepsilon\to0$ 극한이 지표 1의 미분대수방정식이라는 사실도 같은 그림의 다른 표현이다.

응용은 넓다.

화학 반응 축소. 상세 반응 기구는 라디칼의 준정상 상태 덕분에 강성이 극심하다. 저차원 느린 다양체를 직접 찾아 그 위의 방정식만 푸는 것이 ILDM(고유값 분해로 빠른 부분공간을 소거)과 CSP(계산적 특이섭동) 계열이며, 준정상 상태 근사와 부분 평형 근사는 이 다양체를 $S_0$ 로 근사한 고전적 특수 사례다.
생체·신경 모형. 호지킨-헉슬리 모형과 그 축약판(피츠휴-나구모 모형)은 전형적인 느린-빠른 계다. 임계 다양체가 접히는 곳(폴드)에서 법선 쌍곡성이 깨지고, 궤도가 그 접힘을 따라가며 튀는 것이 이완 진동(극한 순환 참고)과 카나르 현상이다. 정리가 침묵하는 자리에서 재미있는 일이 벌어진다는 점은 중심 다양체 정리와 판박이다.
기상·해양. 빠른 중력파와 느린 준지균 운동을 분리하는 “느린 다양체” 개념이 초기화와 자료동화의 이론적 배경이다. 다만 정확한 느린 다양체가 존재하느냐는 열려 있고, 실무는 유한 차수의 근사 다양체로 만족한다.
모형 축소. 소산성 편미분방정식에서 모든 궤도를 지수적으로 끌어들이는 유한차원 불변 다양체가 관성 다양체이고, 존재 조건은 스펙트럴 간격이다. 축소차수모델이 “저차원 부분공간에 사영해도 된다”고 가정할 때, 그 가정을 정당화하는 것이 바로 이런 다양체의 존재다. 사영이 잘 안 되는 문제는 코드가 아니라 스펙트럼에 자를 자리가 없다는 구조적 이유일 가능성이 높다.

5. 수치적으로 계산하기[편집]

국소 조각. 고유벡터로 좌표를 잡고 다양체를 그래프 $\mathbf y = h(\mathbf x)$ 로 두면 불변성 방정식이 나오고, 테일러 계수를 차수별로 푼다. 그래프로 표현이 안 되는 접힌 다양체까지 다루려면 매개화 방법을 쓴다. 절차의 세부는 중심 다양체 정리 쪽에 있고, 안정·불안정 다양체는 관련 선형계가 비특이해서 오히려 계산이 더 쉽다.

1차원 대역 다양체. 불안정 고유벡터 방향으로 $\delta$ 만큼 나간 점에서 전진 적분하면 $W^u$ 의 한 가지가 나온다. 그냥 적분하면 곡률이 큰 구간에서 점이 성겨지므로, 실무는 호길이를 제어하며 점을 채운다. $W^s$ 는 시간을 뒤집어 같은 절차를 쓰는데, 이때 원래 안정하던 방향이 폭발적으로 불안정해지므로 정밀도 관리가 훨씬 어렵다.

2차원 이상. 대표적인 접근이 측지 준위집합 방법(크라우스코프-오싱가)이다. 평형점에서 측지 거리로 잰 동심원을 하나씩 바깥으로 성장시키되, 각 원의 점은 “이전 원에서 출발해 정해진 거리만큼 떨어진 곳에 도달”이라는 경계값 문제로 결정한다. 전진 적분만 쓰는 순진한 방법이 실패하는 이유는 다양체 위에서도 궤도가 특정 방향으로 지수적으로 쏠려, 점들이 한쪽으로 몰리고 나머지 영역이 텅 비기 때문이다. BVP로 바꾸는 순간 이 쏠림이 사라진다는 것이 이 분야의 핵심 교훈이며, 수치 연속법 패키지가 궤도족을 이어 붙이는 방식과 같은 정신이다.

시간 의존 계. 흐름이 비자율이면 “평형점의 다양체”라는 말 자체가 성립하지 않는다. 유한 시간 구간만 주어진 실측·해석 유동장에서는 대신 유한시간 랴푸노프 지수 장의 능선을 계산해 라그랑주 응집 구조로 삼는다. 수송 장벽의 유한시간 대응물이며, 비정상 나비에-스토크스 방정식 해석 결과를 유선이 아니라 물질 수송의 관점에서 읽는 표준 도구가 되었다.¹

검증. 계산된 다양체가 진짜인지 확인하는 가장 싼 방법은 불변성 잔차다. 다양체 위의 점 하나를 짧게 적분한 뒤 다양체와의 거리를 재면 된다. 이 값이 적분 오차 수준이 아니라면 다양체가 아니라 그냥 궤도 뭉치를 그린 것이다.²

6. 왜 시뮬레이션 하는 사람이 알아야 하나[편집]

유역 경계는 안정 다양체다. “왜 이 케이스만 다른 답으로 가느냐”의 기하학적 정답이 이것이고, 경계를 알면 안전 여유를 정량화할 수 있다(흡인 유역).
강성의 원인이 느린 다양체다. 시간간격 제약을 적분기 탓으로만 돌리기 전에, 계에 시간척도 분리가 있는지부터 확인하는 편이 낫다. 있다면 축소 모형이라는 선택지가 열린다.
ROM의 면허증이다. 저차원 모형이 되는 계와 안 되는 계를 가르는 기준이 불변 다양체의 존재이지, 모드 개수가 아니다.
다양체는 격자가 필요 없다. $n$ 차원 공간을 격자로 훑는 비용은 지수적이지만, 그 안의 2차원 다양체 하나를 그리는 비용은 2차원 문제의 비용이다. 차원의 저주를 우회하는 몇 안 되는 정직한 방법이라, 고차원 문제에서 유역·수송·전이 구조를 다룰 때 결국 이쪽으로 온다.³

7. 관련 문서[편집]

이름이 여러 개라 헷갈리는데, 유한시간 랴푸노프 지수(FTLE) 능선은 후보이고 그것이 진짜 물질 장벽인지는 따로 따져야 한다. “FTLE 능선 = LCS”라고 못 박은 초기 논문들이 나중에 반례를 맞은 역사가 있어서, 요즘은 변분적 정의를 쓰는 쪽이 정통이다. ↩
다양체 그림은 예쁘게 잘 나오는데 잔차를 재 보면 처참한 경우가 꽤 있다. 특히 역방향 적분으로 $W^s$ 를 그릴 때, 화면에는 매끄러운 면이 보이지만 실제로는 수치 오차가 불안정 방향으로 증폭되어 만든 인공물인 경우가 있다. 예쁨은 검증이 아니다. ↩
물론 그 2차원 다양체를 제대로 그리는 코드를 짜는 데 두 달이 걸린다는 점은 별개의 문제다. 그래서 이 바닥은 AUTO, MatCont, manlab 같은 남의 패키지 위에서 사는 것을 부끄러워하지 않는다. ↩