제한 삼체 문제

물리 계산물리 마지막 수정: 2026-08-23 04:41:09

1. 개요[편집]

제한 삼체 문제 Restricted three-body problem
약칭	CR3BP (원형 제한 삼체 문제)
가정	주·부 천체는 원궤도, 세 번째 질량은 무시
유일한 보존량	야코비 상수 C = 2Ω − v²
평형점	L1·L2·L3(공선, 안장) / L4·L5(정삼각, 조건부 안정)
L4·L5 선형 안정 조건	μ < (9 − √69)/18 ≈ 0.03852 (라우스)
대표 궤도	랴푸노프 · 헤일로 · 리사주 · NRHO

세 몸이 서로 당기면 닫힌 해가 사라진다. 그런데 그중 하나가 아주 가벼우면, 보존량 하나가 기적처럼 살아남는다. 우주 임무 설계의 절반이 그 하나에 얹혀 있다.

제한 삼체 문제(restricted three-body problem)는 질량이 무시할 만큼 작은 물체가, 서로의 중력으로 도는 두 무거운 천체가 만드는 중력장 안에서 어떻게 움직이는지를 다루는 문제다. 두 무거운 천체(주 천체 $m_1$ , 부 천체 $m_2$ )가 공통 무게중심 둘레를 원궤도로 돈다고 더 가정한 것이 원형 제한 삼체 문제(CR3BP)이고, 실무에서 “제한 삼체”라고 하면 대개 이쪽을 뜻한다.

“제한”이라는 말의 핵심은 세 번째 물체가 두 천체의 운동에 되먹임을 주지 않는다는 것이다. 덕분에 두 천체의 궤도는 처음부터 알고 있는 것으로 놓을 수 있고, 미지수는 세 번째 물체의 6차원 상태뿐이 된다. 자유도가 이렇게 줄어도 문제는 여전히 비적분계이고 카오스 이론의 언어를 요구한다 — 푸앵카레가 1890년 삼체 문제 논문에서 호모클리닉 얽힘을 발견하고 카오스라는 분야를 사실상 열어젖힌 무대가 정확히 여기다.

이체 해와 그 위의 임무 설계는 궤도 역학이, 중력원이 셋 이상이고 전부 무겁게 서로 끌어당기는 일반 문제는 N체 문제가 담당한다. 이 문서는 그 사이에 낀, 닫힌 해는 없지만 구조는 놀랍도록 풍부한 중간지대를 다룬다.

2. 회전좌표계와 운동방정식[편집]

두 천체가 원궤도로 도니까, 그들과 함께 도는 좌표계로 옮겨 타면 둘이 정지해 있는 것처럼 보인다. 여기에 무차원화까지 얹는 것이 국룰이다 — 두 천체 사이 거리를 1, 총질량을 1, 공전 각속도를 1로 잡으면 남는 파라미터는 질량비 하나뿐이다.

\mu = \frac{m_2}{m_1 + m_2}

이 규격에서 주 천체는 $(-\mu, 0, 0)$ , 부 천체는 $(1-\mu, 0, 0)$ 에 못 박혀 있다. 회전좌표계로 갔으니 원심력과 코리올리 힘이 대가로 붙는다.

\ddot x - 2\dot y = \frac{\partial \Omega}{\partial x}, \qquad \ddot y + 2\dot x = \frac{\partial \Omega}{\partial y}, \qquad \ddot z = \frac{\partial \Omega}{\partial z}

\Omega(x,y,z) = \frac{x^2 + y^2}{2} + \frac{1-\mu}{r_1} + \frac{\mu}{r_2} + \frac{\mu(1-\mu)}{2}

여기서 $r_1^2 = (x+\mu)^2 + y^2 + z^2$ , $r_2^2 = (x-1+\mu)^2 + y^2 + z^2$ 이고, 마지막 상수항은 편의를 위한 관습이다(뒤에 나올 $C_{L4} = 3$ 을 딱 떨어지게 만든다). $\Omega$ 의 처음 항이 원심 퍼텐셜, 나머지가 두 천체의 중력 퍼텐셜이다.

좌변의 $-2\dot y$ , $+2\dot x$ 가 코리올리 항인데, 이 녀석의 성질이 중요하다. 속도에 수직으로 작용하므로 일을 하지 않는다. 즉 에너지 수지에는 안 들어오면서 궤적만 휘게 만든다. 뒤에서 볼 L4/L5의 안정성이 전부 이 항 덕분이다 — 퍼텐셜의 극대점인데도 안정할 수 있는 이유가 그것이다.¹

3. 야코비 상수와 힐 곡선[편집]

운동방정식에 $(\dot x, \dot y, \dot z)$ 를 내적해서 적분하면, 삼체 문제에 남은 유일한 대수적 보존량이 떨어진다.

C = 2\Omega(x,y,z) - v^2, \qquad v^2 = \dot x^2 + \dot y^2 + \dot z^2

이것이 야코비 상수(Jacobi constant, 1836)다. 회전좌표계 해밀토니안의 음의 두 배쯤 되는 양이라 보면 되고, 이것이 보존되는 근본 이유는 회전좌표계에서 계가 시간 무관하기 때문이다(해밀토니안 역학 쪽 언어로는 자코비 적분 = 회전계 에너지).

$v^2 \ge 0$ 이므로 물체는 $2\Omega \ge C$ 인 영역 안에만 있을 수 있다. 등호가 성립하는 곡면 $2\Omega = C$ 가 영속도 곡면(zero-velocity surface)이고, 평면 단면이 힐 곡선이다. 여기서 나오는 것이 금지 영역 — 궤적을 적분해 보지도 않고 “여기는 절대 못 간다”를 확정하는 강력한 도구다.

$C$ 를 높은 값에서 낮춰 가면 금지 영역이 다음 순서로 열린다.

야코비 상수	접근 가능한 영역
$C > C_1$	주 천체 근방·부 천체 근방·외부가 완전히 분리
$C_1 > C > C_2$	L1에 목이 뚫려 두 천체 근방이 연결
$C_2 > C > C_3$	L2에 목이 뚫려 외부로 탈출 가능
$C_3 > C > 3$	L3 쪽도 열리고 금지 영역은 L4·L5 주변 두 덩어리만 남음
$C < 3$	금지 영역 소멸 — 어디든 갈 수 있음

$C_1 > C_2 > C_3 > C_4 = C_5 = 3$ 순서다. 저에너지 전이가 왜 좁은 목을 통과하는 이야기인지가 이 표에서 그대로 보인다. 참고로 혜성 궤도 식별에 쓰는 티스랑 파라미터가 야코비 상수의 근사판이다 — 목성 근접으로 궤도요소가 통째로 바뀌어도 이 값은 거의 안 변하니, “같은 혜성인가”를 판정하는 지문 역할을 한다.

4. 라그랑주 점[편집]

$\Omega$ 의 정류점, 즉 $\nabla\Omega = 0$ 인 다섯 점이 회전좌표계의 평형점이다. 오일러(1767)가 공선점 셋을, 라그랑주(1772)가 정삼각점 둘을 찾았다.

4.1. 공선점 L1·L2·L3[편집]

$y = z = 0$ 축 위에서 $\partial\Omega/\partial x = 0$ 을 풀면, 세 구간(부 천체 안쪽, 바깥쪽, 주 천체 반대편) 각각에서 5차 방정식이 실근을 하나씩 준다. 닫힌 형태가 없어서 뉴턴-랩슨법으로 푸는데, $\mu$ 가 작을 때 L1과 L2는 부 천체로부터 대략 힐 반경만큼 떨어져 있다.

\gamma \approx \left(\frac{\mu}{3}\right)^{1/3}

태양-지구계( $\mu = 3.00\times10^{-6}$ )면 $\gamma \approx 0.01$ AU $\approx 1.5\times10^{6}$ km — SOHO와 JWST가 앉아 있는 그 거리다. 지구-달계( $\mu = 0.01215$ )면 1차 근사가 6.1만 km인데 실제 L1은 5.8만, L2는 6.5만 km라 $\mu$ 가 커질수록 근사가 눈에 띄게 어긋난다.

공선점의 선형화 행렬은 고윳값이 $\pm\lambda$ (실수 한 쌍)와 $\pm i\omega_p$ , $\pm i\omega_v$ (순허수 두 쌍)로 나와, 위상공간 구조가 안장 × 중심 × 중심이다. 실수 양의 고윳값이 있으므로 전부 불안정하다. 태양-지구 L1/L2의 발산 시간척도는 대략 3주 안팎이라 위성을 그냥 놔두면 한 달 안에 흘러가 버린다. 그런데도 실무에서 문제가 안 되는 이유는, 불안정 방향이 하나로 명확해서 조기에 잡으면 되기 때문이다 — JWST의 궤도 유지 예산은 연간 수 m/s 수준이다.²

4.2. 삼각점 L4·L5와 라우스 판정[편집]

L4와 L5는 두 천체와 정삼각형을 이루는 점, 즉 $r_1 = r_2 = 1$ 인 $(1/2 - \mu,\ \pm\sqrt{3}/2,\ 0)$ 이다. $\mu$ 와 무관하게 위치가 닫힌 형태로 나오는 것이 매력이고, 여기서 $C_4 = C_5 = 3$ 이 정확히 성립한다.

이 두 점은 $\Omega$ 의 극대점이라, 코리올리 항이 없었다면 언덕 꼭대기의 구슬처럼 굴러 떨어져야 한다. 하지만 코리올리 힘이 벗어나려는 물체를 옆으로 휘어 되돌리기 때문에, 질량비가 충분히 작으면 선형 안정이 된다. 선형화 특성방정식을 풀면 조건이 이렇게 나온다.

\mu < \mu_{\mathrm{R}} = \frac{9 - \sqrt{69}}{18} = \frac{1}{2}\left(1 - \frac{\sqrt{69}}{9}\right) \approx 0.038521

이것이 라우스 판정값이다. 태양계에서 이 조건을 어기는 계는 거의 없다 — 지구-달이 0.01215, 태양-목성이 $9.54\times10^{-4}$ , 명왕성-카론이 약 0.11로 드물게 조건을 위반하는 예외에 속한다. 그래서 목성 L4/L5의 트로이 소행성군, 해왕성 트로이군, 지구의 2010 TK7 같은 물체들이 실제로 수억 년씩 눌러앉아 있다.

주의할 점은 선형 안정이 곧 비선형 안정은 아니라는 것이다. 순허수 고윳값만 있는 중심-중심 구조는 선형 이론이 결론을 못 내는 경계 케이스라, 고차항을 봐야 한다. KAM 정리 계열 논증(아널드)으로 대부분의 $\mu < \mu_{\mathrm{R}}$ 에서 리아푸노프 안정이 증명되어 있지만, 두 진동수가 저차 공명( $\omega_1 : \omega_2 = 2:1,\ 3:1$ )을 이루는 특정 질량비들은 따로 다뤄야 하는 예외로 남았다. 지구-달의 0.01215가 하필 그 공명 값 하나와 가깝다는 점이 코르딜레프스키 먼지구름 관측이 백 년째 애매한 이유 중 하나로 거론된다.

5. 주기 궤도 — 랴푸노프, 헤일로, 리사주[편집]

평형점이 안장×중심×중심이라는 말은, 그 주위에 중심 방향의 진동이 두 벌 있다는 뜻이다. 랴푸노프 중심 정리에 따라 각 순허수 쌍에서 주기해의 1-매개변수 족이 뻗어 나온다.

평면 랴푸노프 궤도 — 궤도면 안에서 도는 타원형 족. 진동수 $\omega_p$ 쪽.
수직 랴푸노프 궤도 — 8자 모양으로 면외 진동하는 족. 진동수 $\omega_v$ 쪽.
리사주 궤도 — 두 진동을 동시에 켠 것. $\omega_p$ 와 $\omega_v$ 가 일반적으로 무리수 비라 궤도가 닫히지 않는 준주기 운동이며, 2-토러스를 조밀하게 채운다.
헤일로 궤도 — 진폭을 키우면 비선형 항이 두 진동수를 끌어당겨 1:1로 맞춰 버리는 지점이 있고, 그 임계 진폭에서 평면 랴푸노프 족으로부터 갈라져 나오는 3차원 주기해 족이다(분기 이론의 갈퀴 분기라 북쪽/남쪽 두 거울상이 쌍으로 생긴다).

이름은 파쿠하가 1960년대 후반에 붙였다. 지구에서 보면 위성이 달 뒤로 숨지 않고 달 둘레에 후광(halo)처럼 걸려 보인다는 뜻이고, 실제로 이 궤도의 최초 동기가 달 뒷면 통신 중계였다. 리처드슨(1980)의 3차 해석 근사가 지금도 수치 계산의 초기추정으로 널리 쓰인다.

헤일로 족을 진폭 방향으로 계속 따라가면 부 천체에 바짝 붙은 극지 궤도에 가까운 NRHO(near-rectilinear halo orbit)가 나오는데, 이 구간은 불안정성 지표가 1에 매우 가까워 사실상 안정에 준한다. 게이트웨이 정거장이 달 궤도가 아니라 지구-달 L2의 NRHO에 놓이는 이유가 이것이다 — 궤도 유지가 싸고, 지구와 상시 가시선이 확보되고, 달 표면 접근 비용도 적당하다.

6. 수치적으로 다루기[편집]

적분기 선택. 회전계 해밀토니안

H = \frac{p_x^2+p_y^2+p_z^2}{2} + y p_x - x p_y - \frac{1-\mu}{r_1} - \frac{\mu}{r_2}

에는 $y p_x - x p_y$ 라는 교차항이 있어서 $T(p) + V(q)$ 로 깔끔히 갈라지지 않는다. 즉 베를레 적분식 2분할 립프로그를 그냥 갖다 쓸 수 없다. 다행히 그 교차항은 회전을 생성하는 항이라 그 자체로 정확히 풀리므로, 운동에너지 · 회전 · 퍼텐셜의 3분할로 심플렉틱 적분기를 구성할 수 있다. 장기 통계(트로이군 안정성, 소행성 수명)를 볼 때는 이쪽이 정답이고, 기법 전반은 변분 적분기와 함께 보면 된다.

반대로 단기 고정밀이 필요한 작업 — 다양체를 몇 주기 뽑거나 미분수정을 돌릴 때 — 은 오히려 고차 룽게-쿠타법(DOP853 등)에 상대오차 $10^{-12}$ 급 허용치를 걸어 쓰는 것이 관행이다. 이때 야코비 상수의 표류가 그대로 오차 계기판이 된다. $C$ 가 $10^{-10}$ 이상 움직이기 시작하면 그 궤적으로 그린 다양체 그림은 믿지 말아야 한다.³

미분수정. 헤일로 궤도를 실제로 찾는 표준 절차는 CR3BP의 대칭성을 이용한 슈팅이다. 이 계는 $(x, y, z, \dot x, \dot y, \dot z, t) \mapsto (x, -y, z, -\dot x, \dot y, -\dot z, -t)$ 변환에 대해 불변이므로, $xz$ 평면을 수직으로 두 번 가로지르는 궤적은 자동으로 주기해다. 그래서

$xz$ 평면 위의 점에서 $\dot x = \dot z = 0$ 으로 출발하고,
다음 $y = 0$ 교차까지 적분한 뒤,
거기서도 $\dot x = \dot z = 0$ 이 되도록 초기조건 $(x_0, z_0, \dot y_0)$ 중 둘을 뉴턴 보정한다.

보정에 필요한 감도 행렬이 상태 전이 행렬 $\Phi(t,0)$ 이고, 변분방정식 $\dot\Phi = A(t)\Phi$ , $\Phi(0) = I$ 를 궤적과 나란히 적분해서 얻는다(6×6이라 ODE가 36개 늘어난다). 한 주기 뒤의 $\Phi(T,0)$ 이 모노드로미 행렬이며, 이것의 고윳값이 플로케 이론의 승수다. 심플렉틱계라 고윳값은 $\{\lambda, 1/\lambda, \bar\lambda, 1/\bar\lambda\}$ 짝으로 나오고 시간 이동에서 오는 자명한 1이 한 쌍 붙는다. 남는 실수 쌍의 $\lambda$ 가 클수록 궤도가 불안정하다. 계수가 주기적인 선형 변분방정식이라는 점에서 힐 방정식 계열과 같은 문제 유형이다.

여기서 얻은 해 하나를 씨앗으로 수치 연속법(대개 유사호장 연속)을 돌리면 진폭이나 $C$ 를 따라 궤도 족 전체가 뽑힌다. 궤도가 길거나 불안정성이 심하면 단일 슈팅이 발산하므로 다중 슈팅법으로 구간을 쪼갠다.

7. 불변 다양체와 저에너지 전이[편집]

L1·L2 주위의 주기 궤도는 그 자체로 불안정하고, 따라서 안정·불안정 불변 다양체를 달고 다닌다. 주기 궤도(원 하나)의 각 점에서 불안정 고유방향으로 뻗어 나온 곡선들이 모여 만드는 것은 위상적으로 원기둥, 즉 튜브다. 이 튜브가 하는 일이 결정적이다.

3차원 에너지 준위면 안에서 이 2차원 튜브는 칸막이 역할을 한다. 튜브 안쪽으로 들어온 궤적은 목을 통과하고, 바깥의 궤적은 튜브에 부딪혀 되튕긴다. “이 위성이 달 근방으로 포획될까, 스쳐 지나갈까”라는 질문이 초기조건이 튜브 내부인가라는 기하 문제로 바뀌는 것이다. 콘리와 맥기가 1960년대에 세운 이 관점이 1990년대 쿤·로·마스든·로스의 손에서 임무 설계 도구로 정착했다.

여기서 저에너지 전이(low-energy transfer)가 나온다. 서로 다른 계(예: 태양-지구계와 지구-달계)의 튜브가 적절한 단면에서 교차하면, 그 교점에서 아주 작은 $\Delta v$ 로 한 튜브에서 다른 튜브로 갈아탈 수 있다. 튜브를 이어 붙여 태양계를 가로지르는 이 연결망을 성간 고속도로(Interplanetary Superhighway) 또는 행성간 수송망이라 부른다. 대가는 시간이다 — 호만 전이가 며칠 걸릴 구간에 몇 달을 쓴다. 대신 추진제를 아낀다.

실전 사례는 이미 여럿이다. 1991년 일본의 히텐은 연료가 부족해 포기할 뻔한 달 궤도 진입을, 벨브루노와 밀러가 제안한 약안정 경계(weak stability boundary) 탄도 포획 궤적으로 성공시켰다. 2001년 제네시스는 태양-지구 L1 헤일로에서 태양풍 시료를 모아 L2를 거쳐 귀환하는 궤적 전체를 다양체 위에서 설계했고, 결정론적 기동이 거의 필요 없는 궤적이었다. ARTEMIS는 임무를 마친 THEMIS 탐사선 두 기를 지구-달 칭동점 궤도로 옮겨 재활용했다.

8. 실제 임무 지도[편집]

태양-지구 L1 — SOHO, ACE, DSCOVR, WIND. 태양을 24시간 가리는 것 없이 볼 수 있고 지구보다 먼저 태양풍을 맞아 우주기상 조기경보가 된다.
태양-지구 L2 — WMAP, 허셜·플랑크, 가이아, JWST. 태양·지구·달이 한쪽 하늘에 모여 있어 차폐막 하나로 다 가릴 수 있는 것이 결정적이다. JWST는 차양막을 돌릴 수 없어 태양 반대쪽으로는 분사할 수 없고, 그래서 한 방향으로만 미는 편측 궤도 유지를 한다.
지구-달 L2 — 췌차오(2018) 헤일로에서 달 뒷면 착륙선 중계, CAPSTONE(2022)과 게이트웨이의 NRHO.
자연 천체 — 목성·해왕성 트로이군, 토성 위성계의 공유궤도 위성들, 그리고 힐 반경 개념 자체가 위성계·행성고리의 안정 경계를 정하는 기준으로 쓰인다.

CR3BP는 어디까지나 모형이다. 실제 설계는 여기서 얻은 해를 초기추정으로 삼아, 이심률(타원형 제한 삼체)·태양 섭동·N체 문제식 고정밀 역표·비구형 중력장까지 얹은 모형으로 다시 수렴시킨다. 그럼에도 사람이 궤적을 이해하는 언어는 여전히 야코비 상수와 튜브다 — 수치해가 왜 그렇게 생겼는지를 설명해 주는 것은 고정밀 모형이 아니라 이 장난감 모형이기 때문이다.

9. 관련 문서[편집]

회전 원판 위에서 바깥쪽으로 굴러가려는 구슬이 옆으로 휘어 결국 제자리를 맴도는 그림을 떠올리면 된다. “언덕 꼭대기인데 안 떨어진다”가 직관에 어긋나 보이는 이유는, 우리가 마찰이 있는 세상에서만 언덕을 봐서 그렇다. 코리올리 힘은 일을 안 하므로 에너지를 뺏어 갈 수 없고, 그래서 이 회전목마는 안 멈춘다. ↩
불안정이 오히려 싸다는 것이 이 바닥의 반직관 중 하나다. 발산이 지수적이라도 방향이 하나로 정해져 있으면 일찍 감지해서 조금만 밀면 된다. 반대로 준안정 궤도에서 정밀 자세를 유지하려면 온갖 방향의 섭동을 다 상대해야 해서 오히려 예산이 커지는 경우가 있다. ↩
야코비 상수는 초보자용 검산이 아니라 현업의 계기판이다. 이 값이 흔들린다는 것은 적분기 허용오차, 근접 통과 구간의 단계 크기, 아니면 $\mu$ 값 자체를 잘못 넣었다는 뜻이다. 예쁜 튜브 그림을 학회에 들고 가기 전에 $\Delta C$ 부터 찍어 보는 습관을 들이면 창피할 일이 줄어든다. ↩