에농-하일레스 계

계산물리 물리 마지막 수정: 2026-08-02 04:36:22

1. 개요[편집]

에농-하일레스 계 Hénon–Heiles System
발표	M. Hénon & C. Heiles (1964), Astron. J. 69, 73
원래 목적	은하 퍼텐셜 속 별 운동의 "제3적분" 존재 여부 검증
자유도	2 (위상공간 4차원, 에너지면 3차원)
탈출 에너지	E_esc = 1/6 ≈ 0.16667
표준 단면	x = 0, p_x > 0 평면의 (y, p_y)
대표 역할	혼합 위상공간의 표준 예제

은하에 관한 질문 하나가 카오스 수치실험의 창립 문서가 됐다. 그것도 IBM 360이 나오기도 전에.

에농-하일레스 계(Hénon–Heiles system)는 1964년 미셸 에농과 칼 하일레스가 축대칭 은하 퍼텐셜 속 별 궤도에 제3적분이 존재하는지 수치적으로 조사하려고 만든 2자유도 해밀토니안이다.

H = \tfrac{1}{2}\left(p_x^2 + p_y^2\right) + \tfrac{1}{2}\left(x^2 + y^2\right) + x^2 y - \tfrac{1}{3}y^3

앞의 두 항은 등방 2차원 조화진동자라 그 자체로 적분가능하고, 뒤의 3차항 두 개가 축대칭을 삼중 대칭으로 깨뜨리는 비선형 결합이다. 항이 네 개뿐인 이 장난감이 반세기 넘게 살아남은 이유는 혼합 위상공간(mixed phase space) — 규칙적 토러스와 카오스 바다가 같은 에너지면 위에 공존하는 상태 — 을 에너지 하나만 돌리며 통째로 보여 주기 때문이다. KAM 정리가 예언한 그림을 처음으로 화면에 띄운 계이기도 하다.

배경이 되는 천체물리 문제는 이렇다. 축대칭 은하에서 별 하나는 에너지 $E$ 와 각운동량 $L_z$ 라는 두 개의 고립 적분을 확실히 갖는다. 그런데 관측된 항성 속도 분포는 두 개만으로는 설명이 안 되고 세 번째 보존량이 있어야 맞아떨어졌다. 그 “제3적분”이 진짜 존재하는지, 아니면 국소적으로만 그런 척하는 것인지가 당시 은하 동역학의 큰 물음이었고, 에농과 하일레스는 해석적으로 붙는 대신 컴퓨터로 궤도를 굴려서 단면을 찍겠다는 당시로서는 대담한 방법을 택했다.¹

2. 퍼텐셜의 모양과 탈출 에너지[편집]

퍼텐셜 $V = \tfrac12(x^2+y^2) + x^2y - \tfrac13 y^3$ 을 극좌표로 바꾸면 구조가 한눈에 보인다.

V(r,\theta) = \tfrac{1}{2}r^2 + \tfrac{1}{3}r^3 \sin 3\theta

3차항이 각도에 대해 $\sin 3\theta$ 하나로 압축되므로 이 계는 삼중 대칭이다. $\sin3\theta = -1$ 인 세 방향( $\theta = 90^\circ,\,210^\circ,\,330^\circ$ )에서 퍼텐셜이 가장 빨리 낮아지고, 그 방향으로 $r=1$ 지점에 안장점이 하나씩 있다. 좌표로는 $(0,1)$ 과 $(\pm\sqrt3/2,\,-1/2)$ 이며 셋 다 정확히

V = \tfrac{1}{6}

다. 그리고 $V = 1/6$ 등퍼텐셜선은 놀랍게도 이 세 안장점을 꼭짓점으로 하는 정삼각형이다(변이 정확히 직선이다). 그래서 그림이 그렇게 예쁘다.

$E < 1/6$ 이면 궤도가 이 삼각형 안에 영원히 갇히고, $E > 1/6$ 이면 세 꼭짓점 쪽 통로로 빠져나가 무한대로 달아난다. 즉 $E_{\text{esc}} = 1/6$ 이며, 이 위쪽은 유계 카오스가 아니라 혼돈 산란 문제가 되고 세 탈출구에 대한 탈출 유역이 프랙탈(그것도 세 유역 경계가 전부 맞닿는 와다 성질)이 된다. 아래에서 다루는 고전적인 결과는 전부 $E \le 1/6$ 영역 이야기다.

3. 에너지를 올리며 보는 위상공간[편집]

표준 진단은 $x = 0$ , $p_x > 0$ 에서 뜬 푸앵카레 단면에 $(y, p_y)$ 를 찍는 것이다. 에너지 보존이 $p_x$ 를 결정해 주므로 4차원 위상공간이 2차원 그림으로 압축되고, 허용 영역은

\tfrac{1}{2}p_y^2 + \tfrac{1}{2}y^2 - \tfrac{1}{3}y^3 \le E

가 둘러싼 배 모양이다. 이 그림 하나를 에너지별로 뽑으면 이야기가 끝난다.

$E = 1/12 \approx 0.083$ — 거의 전부 규칙적. 단면이 매끄러운 닫힌 곡선들로 층층이 채워지고, 카오스는 육안으로 안 보인다. 곡선 하나하나가 KAM 토러스의 절단면이며, 이 영역에서는 제3적분이 사실상 존재한다고 말해도 된다.
$E = 1/8 = 0.125$ — 혼합. 큰 규칙 영역이 아직 남아 있지만 쌍곡점 주변에서 점들이 흩어지기 시작하고, 섬 사슬 사이를 얇은 카오스 층이 채운다. 정확히 KAM 정리가 그리는 그림 — 살아남은 토러스와 부서진 공명이 공존한다.
$E = 1/6 \approx 0.167$ — 대부분 카오스. 단면이 무작위로 뿌려진 점으로 뒤덮이고, 규칙 영역은 몇 개의 작은 섬으로 쪼그라든다. 그래도 완전히 사라지지는 않는다는 것이 중요하다. 이 잔존 섬들 때문에 이 계는 어떤 에너지에서도 에르고딕 가설이 요구하는 의미로 에르고딕하지 않다.

파괴 순서에도 규칙이 있다. 회전수가 낮은 유리수인 공명이 먼저 부서져 푸앵카레-비르코프 섬 사슬이 되고, 무리수 회전수 토러스는 유리수 근사가 나쁠수록(연분수 계수가 작을수록) 오래 버틴다. 마지막까지 남는 곡선이 황금비 계열이라는 표준 사상의 결론이 여기서도 그대로 성립한다. 사실 이 두 계는 같은 이야기의 두 판본이다 — 표준 사상은 넓이 보존 사상이고, 에농-하일레스는 연속 흐름이지만, 흐름의 되돌이 사상 자체가 넓이 보존 2차원 사상이라 단면 그림의 문법이 완전히 같다.

부서진 토러스가 남긴 캔토러스도 그대로 관측된다. 카오스 궤도가 섬 경계에 수천 주기씩 들러붙어 있다가 툭 풀려나는 끈적임이 나타나고, 그 탓에 체류 시간 분포가 지수가 아니라 멱함수 꼬리를 갖는다. 짧게 돌려 보고 “규칙적이네”라고 판정했다가 열 배 더 돌리면 갑자기 흩어지는 일이 흔한 이유다.

4. 수치 계산에서 조심할 것[편집]

적분기 선택. $H = T(p) + V(q)$ 로 완전히 분리되므로 립프로그·요시다 계열 심플렉틱 적분기를 그냥 쓸 수 있다. 힘은

\dot p_x = -x - 2xy, \qquad \dot p_y = -y - x^2 + y^2

로 두 줄이면 끝. 룽게-쿠타법 4차와 비교하면 차이가 극적이다. RK4는 국소 오차 차수가 높아 단기 정확도는 오히려 좋지만 심플렉틱하지 않아 에너지가 단조 표류하고, 궤도가 시간이 지나면서 원래 에너지면을 조용히 떠난다. 단면 그림에서 이건 재앙인데, 궤도가 여러 에너지면을 가로지르면 규칙 영역과 카오스 영역이 뒤섞여 실제보다 훨씬 지저분한 그림이 나오기 때문이다. 심플렉틱 적분기는 섀도 해밀토니안을 보존하므로 에너지 오차가 유계로 진동만 하고, 그래서 $10^6$ 주기를 돌려도 단면이 깨끗하다. 정확도가 아니라 구조의 문제라 스텝을 줄여 해결할 일이 아니다.²

단면 교차점 찾기. 스텝마다 $x$ 의 부호와 $p_x$ 의 부호를 확인해 조건을 만족하는 구간을 검출한 뒤, 그 안에서 정확한 교차 시각을 찾아야 한다. 선형 보간으로 대충 찍으면 오차가 단면 그림에 얇은 안개로 남아 실제 카오스 층과 구분이 안 된다. 브렌트법으로 $x(t)=0$ 을 풀거나, 마지막 한 스텝만 독립변수를 시간에서 $x$ 로 바꿔치기하는 에농의 요령을 쓰는 것이 정석이다.

카오스 판정. 랴푸노프 지수를 변분방정식으로 재는 것이 정공법이지만, 수렴이 느려서 궤도 하나에 긴 적분이 필요하다. 게다가 규칙 궤도의 $\lambda_1$ 은 0으로 멱함수적으로 천천히 내려가서, 유한 시간에 잰 값만으로는 “작은 양수”와 “0”을 구분하기 어렵다. 그래서 위상공간 전체를 격자로 훑어 색칠하려면 비용이 감당이 안 된다.

이 문제 때문에 나온 것이 SALI(smaller alignment index, 스코코스 2001)다. 편차 벡터 두 개 $\hat d_1, \hat d_2$ 를 함께 적분하며

\mathrm{SALI} = \min\left(\lVert \hat d_1 + \hat d_2 \rVert,\ \lVert \hat d_1 - \hat d_2 \rVert\right)

를 보는데, 카오스 궤도에서는 두 벡터가 모두 최대 신장 방향으로 정렬되면서 SALI가 $e^{-(\lambda_1-\lambda_2)t}$ 로 지수적으로 0에 처박히고, 규칙 궤도에서는 토러스 접평면 위에 갇혀 정렬되지 못하므로 0이 아닌 값 주위에서 진동한다. 지수 대 비영이라 판정이 몇 자릿수 차이로 벌어져서, 짧게 적분하고도 확실히 갈린다. 이걸 $k$ 개 벡터의 쐐기곱으로 일반화한 GALI $_k$ 는 규칙 궤도에서 멱함수로 감소하는 지수가 토러스 차원을 알려 줘서, 살아남은 토러스가 몇 차원인지까지 읽어 낸다. 요즘 위상공간 색칠 그림은 거의 다 이 계열이다.

5. 남은 함의[편집]

에농과 하일레스의 결론은 명확했다. 제3적분은 낮은 에너지에서만 존재한다. 그리고 그 “존재”조차 전역적으로 성립하는 해석적 보존량이 아니라, KAM 토러스가 차지하는 영역에서만 국소적으로 정의되는 것이다. 은하 동역학에서 3적분 모형을 쓰려면 이 한계를 알고 써야 한다는 뜻이었고, 실제로 이후 항성계 모형은 규칙 궤도와 카오스 궤도를 나눠 취급하게 됐다.

더 넓게는 이 계가 두 가지 사고방식을 정착시켰다. 하나는 수치실험이 정리의 증거가 될 수 있다는 것 — KAM 정리가 나온 지 10년 만에, 추상적인 측도론적 진술이 IBM 7090 화면 위의 점 무더기로 번역됐다. 다른 하나는 혼합 위상공간이 예외가 아니라 표준이라는 것이다. 완전 적분가능도 완전 카오스도 실은 특수한 경우고, 일반적인 해밀토니안 역학 계는 둘이 섞여 있다. 카오스 이론 교과서가 로렌츠 방정식 다음 장에 거의 반드시 이 계를 놓는 이유다.³⁴

6. 관련 문서[편집]

1964년 논문의 계산 자원을 생각하면 더 대단하다. 궤도 하나에 수천 스텝, 단면 하나에 궤도 수십 개. 지금은 브라우저 탭에서 몇 초면 나오는 그림을 그 시절엔 배치 잡으로 며칠 걸려 뽑았다. 심지어 논문의 퍼텐셜은 “은하 퍼텐셜을 흉내 내되 계산이 싸도록” 손으로 고른 것이라, 실제 은하 모형이라기보다 최소 비용 대리모형에 가깝다. ↩
이 계가 적분기 벤치마크 단골인 이유가 이것이다. 에너지 표류를 로그 축에 그리면 RK4는 우상향 직선, 립프로그는 납작한 띠가 나온다. 수업 시간에 이 그림 한 장 보여 주면 “왜 4차 정확도가 2차한테 지느냐”는 질문이 저절로 나온다. 답은 정확도를 진 게 아니라 종목이 다르다는 것. ↩
에농 본인은 나중에 훨씬 유명해진 에농 사상( $x_{n+1} = 1 - ax_n^2 + y_n$ )으로 다시 한 번 이름을 남겼다. 은하 궤도로 시작해 이산 사상까지, 이 사람 인생이 통째로 보존계-소산계 카오스 교과서 목차다. ↩
재미있는 건 $E>1/6$ 의 탈출 문제도 별도의 연구 분야로 살아남았다는 점이다. 세 개의 탈출구, 프랙탈 유역 경계, 와다 성질까지 갖춘 예제가 항 네 개짜리 해밀토니안에서 공짜로 나오니 안 쓸 이유가 없다. 논문 하나로 두 분야를 먹였다. ↩