극한 순환

1. 개요

극한 순환(limit cycle)은 위상공간에서 고립되어 있는 주기궤도다. 여기서 “고립”이 정의의 전부라고 해도 과언이 아니다. 그 폐곡선을 아주 가까이 둘러싼 이웃 궤적들은 하나도 닫혀 있지 않고, 전부 그 곡선으로 감겨 들어가거나(안정) 감겨 나간다(불안정). 그래서 극한 순환을 가진 계는 초기조건을 어떻게 주든 자기가 정한 진폭과 주기로 돌아온다.

이게 왜 특별하냐면, 진동하는 계라고 다 이런 게 아니기 때문이다. 마찰 없는 진자나 로트카-볼테라 포식자-피식자 모형은 폐곡선이 연속적으로 빽빽하게 쌓인 궤도족을 가진다. 에너지(또는 보존량)를 조금 다르게 주면 그만큼 다른 폐곡선을 돌 뿐이고, 진폭은 순전히 초기조건이 정한다. 툭 치면 새 궤도로 옮겨가서 거기 그대로 머문다. 반면 극한 순환은 툭 쳐도 원래 궤도로 돌아온다. 진폭이 계의 파라미터로 결정되는, 즉 자기 흥분 진동(self-excited oscillation)의 수학적 정체다. 심장 박동, 신경 발화, 반딧불이 동기화, 항공기 날개의 유한진폭 떨림이 전부 이 범주에 들어간다.¹

2. 안정, 불안정, 그리고 반안정

극한 순환의 분류는 이웃 궤적이 어느 쪽으로 가느냐로 끝난다.

• 안정(stable, attracting): 안팎 모두에서 감겨 들어온다. 물리적으로 관측되는 자율 진동은 사실상 전부 이것. 어트랙터다.
• 불안정(unstable, repelling): 안팎 모두로 감겨 나간다. 시간을 거꾸로 돌리면 안정 극한 순환이 된다. 직접 보이지는 않지만 끌림 유역의 경계 역할을 하기 때문에 공학적으로 매우 중요하다. 아임계 호프 분기에서 나오는 게 이놈이다.
• 반안정(semi-stable): 한쪽에서는 들어오고 반대쪽에서는 나간다. 안정 순환과 불안정 순환이 충돌해 소멸하기 직전(순환의 안장-마디 분기, fold of cycles)에 나타나는 여차원 1 상황이라, 파라미터를 조금만 흔들어도 사라진다.

3. 2차원의 특권 — 푸앵카레-벤딕손

평면 자율계 $\dot{\mathbf{x}} = \mathbf{f}(\mathbf{x})$ 에는 강력한 정리가 하나 있다. 푸앵카레-벤딕손 정리: 어떤 궤적이 고정점을 포함하지 않는 유계 폐영역 안에 영원히 갇혀 있다면, 그 궤적은 반드시 폐궤도로 수렴한다. 즉 2차원에서 “발산도 안 하고 고정점으로도 안 가는” 유일한 선택지는 주기운동이다.

실전에서는 이걸 덫 영역(trapping region)을 만드는 방식으로 쓴다. 불안정한 고정점 주위에 작은 원을 그려 벡터장이 바깥으로 향함을 보이고, 멀리 큰 곡선을 그려 벡터장이 안쪽으로 향함을 보이면, 그 고리 모양 영역 안에는 고정점이 없으므로 극한 순환이 존재할 수밖에 없다. 존재 증명을 손으로 할 수 있는 몇 안 되는 경우다. 반대로 벤딕손-뒬락 판정법은 단순연결 영역에서 $\nabla \cdot \mathbf{f}$ 의 부호가 일정하면 그 안에 폐궤도가 없음을 보장한다.

이 정리의 진짜 무게는 부정문 쪽에 있다. 2차원 연속 자율계에서는 카오스가 불가능하다. 궤적이 서로 교차할 수 없다는 위상적 사실이 자유도를 다 잡아먹기 때문이다. 랴푸노프 지수가 양수인 어트랙터를 보려면 최소 3차원이거나, 시간 의존 강제항이 있거나, 이산 사상이어야 한다. 3차원 이상에서는 푸앵카레-벤딕손이 무효라 극한 순환의 존재를 이렇게 우아하게 증명할 방법이 없고, 대개 수치 연속법(numerical continuation)에 의존한다.

4. 어떻게 태어나는가 — 호프 분기

극한 순환이 생성되는 표준 경로는 호프 분기다. 고정점의 야코비안 고윳값 복소켤레 쌍 $\lambda = \alpha(\mu) \pm i\omega$ 가 파라미터 $\mu$ 를 따라 허수축을 가로지를 때($\alpha' \neq 0$), 고정점이 나선 안정성을 잃으면서 주기궤도가 튀어나온다. 정규형은 극좌표로

$$\dot{r} = \mu r + a r^{3}, \qquad \dot{\theta} = \omega + b r^{2}$$

이고, 1차 랴푸노프 계수 $a$ 의 부호가 운명을 가른다. $a<0$ 이면 초임계: $\mu>0$ 에서 진폭 $r = \sqrt{-\mu/a} \propto \sqrt{\mu}$ 의 안정 극한 순환이 0에서 부드럽게 자란다. 임계점을 지나면 조용히 떨기 시작하고, 되돌리면 조용히 멎는다. $a>0$ 이면 아임계: $\mu<0$ 쪽에 불안정 순환이 존재하다가 임계점에서 고정점에 흡수되고, 그 너머에서는 계가 멀리 있는 다른 어트랙터로 점프한다. 이력현상(hysteresis)과 경성 여기(hard excitation)가 생기는 쪽이 이쪽이며, 공학에서 무서운 건 언제나 아임계다. 분기의 일반론은 분기 이론 문서에 정리돼 있다.

교과서 3종 세트는 다음과 같다. 반데르폴 진동자 $\ddot{x} - \mu(1-x^{2})\dot{x} + x = 0$ 은 진공관 회로에서 나온 원조로, $\mu>0$ 이면 유일한 안정 극한 순환을 가진다(리에나르 정리로 유일성 보증). 작은 $\mu$ 에서 진폭은 2에 가깝고 주기는 $2\pi$ 근처, 큰 $\mu$ 에서는 주기가 $(3-2\ln 2)\mu \approx 1.614\mu$ 로 커진다. 브뤼셀레이터는 자체촉매 반응 모형 $\dot{x} = A - (B+1)x + x^{2}y$, $\dot{y} = Bx - x^{2}y$ 로, 고정점 $(A, B/A)$ 가 $B = 1 + A^{2}$ 에서 호프 분기를 일으킨다 — 벨루소프-자보틴스키 반응의 화학 진동을 최소 모형으로 압축한 것. 호지킨-헉슬리 방정식에서는 주입 전류를 올리면 정지 상태가 불안정해지며 반복 발화, 즉 극한 순환이 생긴다. 이걸 2변수로 줄인 피츠휴-나구모 모형이 신경 흥분성의 표준 장난감이고, 여기서 흥분성 매질 이론이 갈라져 나온다.

5. 안정성 판정 — 푸앵카레 사상과 플로케 승수

주기궤도의 안정성을 수치로 판정하는 정석은 푸앵카레 사상이다. 궤도를 가로지르는 초평면 $\Sigma$ 를 하나 잡고, $\Sigma$ 에서 출발한 점이 흐름을 따라 다시 $\Sigma$ 로 돌아오는 사상 $P: \Sigma \to \Sigma$ 를 정의한다. 주기궤도는 $P$ 의 고정점이 되고, 연속계의 안정성 문제가 이산 사상의 안정성 문제로 한 차원 줄어든다.

정량적으로는 궤도를 따라 변분방정식을 한 주기 적분해 얻는 모노드로미 행렬의 고윳값, 즉 플로케 승수(Floquet multiplier)를 본다. 자율계에서는 흐름 방향에 대응하는 승수가 항상 정확히 1이므로(궤도를 따라 밀어도 같은 궤도), 나머지 $n-1$ 개의 크기가 전부 1보다 작으면 안정이다. 승수가 단위원을 뚫고 나가는 방식이 곧 다음 분기의 종류를 알려준다. $+1$ 로 나가면 순환의 안장-마디, $-1$ 로 나가면 주기배가, 복소켤레 쌍이 나가면 토러스 분기(나이마크-사커)다. 이 판정에는 궤도를 정확히 따라가는 것이 전제라, 적분기의 국소 오차가 그대로 승수 오차로 번역된다.²

6. 이완 진동, 강성, 그리고 적분기 선택

$\mu$ 를 크게 키운 반데르폴은 이완 진동(relaxation oscillation)이 된다. 궤적이 3차 널클라인의 안정 가지를 따라 느리게 기어가다가 무릎(fold)에서 반대편 가지로 급격히 점프하는 것을 반복한다. 느린 구간과 빠른 구간의 시간 척도 비가 $\mu^{2}$ 정도로 벌어지므로, 이 문제는 정의상 강성(stiff) ODE다.

여기서 룽게-쿠타법 같은 명시적 적분기를 쓰면, 안정영역 제약 때문에 느릿느릿한 구간에서도 점프 구간에 맞춘 미세한 시간 간격을 계속 써야 한다. 정확도가 아니라 안정성이 스텝을 결정하는 상태 — 강성의 정의 그 자체다. $\mu = 1000$ 짜리 반데르폴이 하이러-바너의 강성 문제 벤치마크 표준 예제(VDPOL)로 굳어진 이유가 이것이다. 실무 해법은 BDF나 Radau 계열 암시적 적분기이고, MATLAB의 ode15s나 SUNDIALS의 CVODE가 그 자리에 있다.

수치적으로 더 고약한 함정은 따로 있다. 저차 명시적 적분기는 인공 감쇠 또는 인공 반감쇠를 넣기 때문에, 원래 없는 극한 순환을 만들어내거나 있는 것을 죽여버릴 수 있다. 특히 보존계에 전진 오일러를 먹이면 중심(center)이 불안정 나선으로 바뀌어, “우리 계에서 자기 진동을 발견했다”는 논문 한 편이 순전히 시간 적분 오차로 만들어진다.³ 진폭과 주기가 시간 간격에 대해 수렴하는지 반드시 확인해야 하고, 이건 검증 및 확인의 기본 항목이다.

7. 공학에서의 극한 순환

• 항공탄성 LCO: 선형 플러터 이론은 임계속도 위에서 진폭이 지수적으로 발산한다고 말하지만, 실기체는 조종면 유격·마찰·실속 같은 비선형 때문에 유한 진폭에서 멎는다. 이 유한진폭 떨림이 극한 순환 진동(limit cycle oscillation)이고, 구조를 즉사시키지는 않지만 피로 수명을 갉아먹는다. 아임계 호프 분기형 LCO는 임계속도 아래에서도 큰 교란을 받으면 튀어 올라가므로 특히 위험하다.
• 캐비테이션 진동: 시트 캐비테이션의 주기적 성장-탈락(cloud shedding)은 재진입 제트가 만드는 자율 진동으로, 스트로할수로 정리되는 뚜렷한 주기를 가진다.
• 화학·생물 진동: BZ 반응, 해당과정 진동, 세포 주기. 전부 자율적으로 주기를 만들어낸다.
• 회전체와 마찰: 회전체 동역학의 오일 훨(oil whirl), 브레이크 스퀼과 스틱-슬립은 음의 감쇠가 만드는 자기 흥분 진동이다.
• 제어계 헌팅: 포화·불감대·백래시가 있는 루프는 이득을 올리면 극한 순환으로 눌러앉는다. 기술기법(describing function)으로 진폭과 주파수를 근사 예측하는 게 고전 제어의 전통 종목.⁴

8. 관련 문서

• 분기 이론
• 랴푸노프 지수
• 룽게-쿠타법
• 벨루소프-자보틴스키 반응
• 플러터 · 항공탄성학
• 자기조직화
• 해밀토니안 역학
• 캐비테이션

9. Footnotes

1. 그래서 “진동이 왜 안 멎느냐”는 질문과 “진동이 왜 이 진폭에서 멎느냐”는 질문은 완전히 다른 질문이다. 전자는 선형 안정성이 답하고, 후자는 비선형항만 답할 수 있다. 선형 해석만 돌려놓고 “발산합니다”라고 보고하면 절반만 맞는 것. ↩

2. 승수 하나가 정확히 1이어야 한다는 사실은 공짜 검산이다. 계산한 승수 중에 1에 충분히 가까운 게 없으면 적분 정확도나 주기 추정이 틀린 것이니, 결과를 해석하기 전에 코드부터 의심하자. ↩

3. 반대 사고도 흔하다. 과도한 수치 소산을 가진 도식으로 자율 진동계를 풀면 진동이 얌전히 죽어버리고, 엔지니어는 “안정하네요”라고 보고한다. 격자와 시간 간격이 물리를 대신 결정해 준 셈. ↩

4. 기술기법은 비선형 요소를 “입력 진폭에 의존하는 이득”으로 근사해 나이퀴스트 선도 위에서 교점을 찾는 방법인데, 어디까지나 근사라 고조파가 강한 계에서는 진폭을 꽤 틀린다. 그래도 손으로 5분 만에 답이 나와서 아직도 현역이다. ↩