위상 엔트로피

편집 역사 토론
계산물리 물리 수치해석 마지막 수정: 2026-08-23 04:34:52

1. 개요[편집]

위상 엔트로피
Topological entropy
기호htop(f) 또는 h(f)
정의 1Adler-Konheim-McAndrew (1965) — 열린 덮개
정의 2Bowen (1971) · Dinaburg (1970) — 분리집합
불변량위상 공액에 대해 보존
변분 원리htop = supμ hμ
SFT 계산log ρ(A), ρ = 전이행렬 스펙트럼 반경
대표값텐트·로지스틱(완전) · 스메일 말굽 = log 2

위상 엔트로피(topological entropy)는 동역학계가 단위 시간당 만들어 내는 서로 구별 가능한 궤도의 개수가 지수적으로 얼마나 빨리 늘어나는지를 재는 비음수 실수로, 측도도 확률도 쓰지 않고 오직 위상 구조만으로 정의되는 복잡도 지표다. 값이 hh이면 유한한 관측 정밀도로 길이 nn짜리 궤도를 구별할 때 대략 enhe^{nh}가지가 나온다는 뜻이고, 그래서 흔히 **“계가 초당 뱉어 내는 정보량”**으로 읽힌다.

핵심 성질은 셋이다. 첫째, 위상 공액 불변량이다 — 좌표를 어떻게 바꿔도 값이 안 변하므로 두 계가 본질적으로 같은지 다른지를 판정하는 데 쓸 수 있다. 둘째, 1차원 구간 사상에서 h>0h>0은 카오스와 동치로 취급된다. 셋째, 측도 엔트로피의 상한이며, 그 사실을 정확히 진술한 것이 변분 원리다.

주의할 점 하나를 먼저 박아 둔다. 위상 엔트로피는 최악의 경우를 재는 양이다. 아무리 작아도 측도 0인 구석에 복잡한 불변집합이 하나 숨어 있으면 hh는 그 값을 그대로 가져간다. 반면 실험이나 시뮬레이션에서 시계열로부터 추정하는 엔트로피는 대개 자연측도가 실제로 보는 측도 엔트로피다. 두 숫자는 같을 이유가 없고, 실제로 다른 경우가 많다.

2. 정의 1 — 열린 덮개 (ACM, 1965)[편집]

아들러·콘하임·맥앤드루가 낸 원 정의는 놀랍게도 거리를 쓰지 않는다. 콤팩트 위상공간 XX와 연속사상 f:X→Xf:X\to X만 있으면 된다.1

XX의 열린 덮개 U\mathcal U에 대해 N(U)N(\mathcal U)를 유한 부분덮개의 최소 원소 개수라 하자. 두 덮개의 결합(join)은

U∨V={ U∩V:U∈U, V∈V }\mathcal U \vee \mathcal V = \{\,U\cap V : U\in\mathcal U,\ V\in\mathcal V\,\}

이다. 이제 nn-단계 덮개

U(n)=U∨f−1U∨⋯∨f−(n−1)U\mathcal U^{(n)} = \mathcal U \vee f^{-1}\mathcal U \vee \cdots \vee f^{-(n-1)}\mathcal U

를 만든다. 이 덮개의 한 원소에 속한다는 것은 첫 nn번의 관측에서 같은 U\mathcal U-원소에 있었다는 뜻이므로, N(U(n))N(\mathcal U^{(n)})은 “정밀도 U\mathcal U로 nn스텝을 봤을 때 구별되는 궤도 수”다. log⁡N(U(n))\log N(\mathcal U^{(n)})이 nn에 대해 준가법적이므로 페케테 보조정리에 의해 극한이 존재한다.

h(f,U)=lim⁡n→∞1nlog⁡N(U(n)),htop(f)=sup⁡Uh(f,U)h(f,\mathcal U) = \lim_{n\to\infty}\frac{1}{n}\log N\bigl(\mathcal U^{(n)}\bigr), \qquad h_{\mathrm{top}}(f) = \sup_{\mathcal U} h(f,\mathcal U)

정밀도를 무한히 높였을 때의 상한이 위상 엔트로피다. 정의가 위상만 쓰므로 동형사상으로 옮겨도 값이 안 변한다는 것이 그 자리에서 따라 나온다. 대신 실제 계산에는 거의 못 쓴다 — 모든 열린 덮개에 대한 상한을 어떻게 잡겠는가.

3. 정의 2 — 분리집합과 ε-스팬 (보웬·디누)[편집]

보웬과 디누가 독립적으로 낸 거리 기반 정의가 실용적인 쪽이다. 거리공간 (X,d)(X,d)에서 보웬 거리를 정의한다.

dn(x,y)=max⁡0≤i<nd(fi(x), fi(y))d_n(x,y) = \max_{0\le i<n} d\bigl(f^i(x),\, f^i(y)\bigr)

“첫 nn스텝 중 한 번이라도 ε\varepsilon 넘게 벌어지면 다른 점”이라는 뜻이다. 두 가지 세는 법이 있다.

  • (n,ε)(n,\varepsilon)-분리집합: 서로 dnd_n 거리가 ε\varepsilon보다 큰 점들의 집합. 최대 원소 개수를 s(n,ε)s(n,\varepsilon).
  • (n,ε)(n,\varepsilon)-스팬집합: 모든 점이 어느 원소와 dnd_n 거리 ε\varepsilon 이내인 집합. 최소 원소 개수를 r(n,ε)r(n,\varepsilon).

둘은 r(n,ε)≤s(n,ε)≤r(n,ε/2)r(n,\varepsilon)\le s(n,\varepsilon)\le r(n,\varepsilon/2)로 끼여 있어 같은 극한을 준다.

htop(f)=lim⁡ε→0 lim sup⁡n→∞1nlog⁡s(n,ε)h_{\mathrm{top}}(f) = \lim_{\varepsilon\to0}\ \limsup_{n\to\infty}\frac{1}{n}\log s(n,\varepsilon)

콤팩트 거리공간에서 두 정의는 일치한다. 게다가 보웬 정의는 콤팩트하지 않은 공간의 균등연속 사상으로도 확장되는데, 그 대가로 거리에 의존하게 되어 위상 불변성을 잃는다.

읽는 법이 중요하다. s(n,ε)∼enhs(n,\varepsilon) \sim e^{nh}라는 것은 정밀도 ε\varepsilon의 자로 계를 관측할 때, nn스텝 관측 기록으로 구별할 수 있는 초기조건이 enhe^{nh}개라는 뜻이다. 뒤집으면 초기조건을 e−nhe^{-nh}만큼 정밀하게 알아야 nn스텝을 예측할 수 있다는 것이고, 이것이 카오스의 예측 지평 논의와 곧장 연결된다. 랴푸노프 지수가 “궤도가 벌어지는 속도”를 재고 엔트로피가 “구별 가능한 궤도의 증가율”을 재는데, 둘이 같은 얘기의 양면이라는 것을 정확히 말해 주는 것이 아래의 페신 공식이다.

4. 기본 성질[편집]

  • h(fk)=k h(f)h(f^k) = k\,h(f) (자연수 kk). 동형사상이면 h(f−1)=h(f)h(f^{-1}) = h(f).
  • h(f×g)=h(f)+h(g)h(f\times g) = h(f) + h(g).
  • ff가 gg의 인자(factor, 준공액 상)면 h(g)≥h(f)h(g)\ge h(f). 공액이면 등호.
  • 등연속계는 h=0h=0. 회전, 등거리사상, 준주기 운동이 전부 여기 속한다. 엔트로피는 “복잡해 보임”이 아니라 궤도의 지수적 분기를 잰다.
  • 콤팩트 다양체 위의 C1C^1 사상은 h<∞h<\infty. 반면 일반 연속사상은 h=∞h=\infty일 수 있다.
  • 미슈레비치-프시티츠키: h(f)≥log⁡∣deg⁡f∣h(f) \ge \log|\deg f|. 원 위의 차수 dd 확대사상은 정확히 log⁡∣d∣\log|d|다. 이 부등식을 호몰로지 전체로 밀어 올린 것이 슈브의 엔트로피 추측이다.2

5. 변분 원리 — 위상과 측도를 잇는 다리[편집]

ff-불변 보렐 확률측도 μ\mu마다 콜모고로프-시나이 측도 엔트로피 hμ(f)h_\mu(f)가 정의된다. 둘의 관계가 이 분야의 중심 정리다.

htop(f)  =  sup⁡μ∈Mf(X)hμ(f)h_{\mathrm{top}}(f) \;=\; \sup_{\mu \in \mathcal M_f(X)} h_\mu(f)

굿윈이 1969년에 ≥\ge 방향을, 디누(1970)와 굿맨(1971)이 나머지를 채웠다. 진술의 강도를 오해하지 말자. **위상 엔트로피는 그 계 위에 얹을 수 있는 모든 불변측도의 엔트로피 중 최댓값(상한)**이다. 어떤 하나의 자연스러운 측도가 그 값을 낸다는 보장은 없다.

상한을 실제로 달성하는 측도를 최대 엔트로피 측도(MME)라 한다.

  • 확장적(expansive) 계에서는 존재가 보장된다. μ↦hμ\mu\mapsto h_\mu가 약*-위상에서 상반연속이 되고, 불변측도 집합이 콤팩트하기 때문이다.
  • 위상적으로 혼합인 유한형 이동(SFT)에서는 유일하며, 페론-프로베니우스 고유벡터로 명시적으로 구성된다(패리 측도).
  • 일반적으로는 존재하지 않을 수도, 여러 개일 수도 있다.

MME와 헷갈리지 말아야 할 것이 SRB 측도다. SRB는 “르베그 측도로 재서 양의 비율의 초기조건이 실제로 따르는” 측도이고, MME는 “가장 복잡한” 측도다. 둘이 일치하는 경우도 있지만(완전 텐트 사상) 일반적으로는 다르다. 수치실험에서 무작위 초기조건을 뿌려 얻는 통계는 SRB 쪽이므로, 그렇게 잰 엔트로피는 htoph_{\mathrm{top}}의 하한일 뿐이다.

6. 리아푸노프 지수와 페신 공식[편집]

미분가능한 계에서는 엔트로피가 랴푸노프 지수와 직접 묶인다. 콤팩트 다양체 위의 C1C^1 사상과 임의의 불변확률측도 μ\mu에 대해 륄 부등식이

hμ(f)  ≤  ∫∑iλi+(x) dμ(x),λ+=max⁡(λ,0)h_\mu(f) \;\le\; \int \sum_i \lambda_i^+(x)\,d\mu(x), \qquad \lambda^+ = \max(\lambda,0)

로 성립한다. 팽창 방향이 만들어 내는 것보다 더 많은 정보를 계가 생산할 수는 없다는 진술이다. 그리고 ff가 C1+αC^{1+\alpha} 미분동형이고 μ\mu가 르베그 측도에 절대연속(또는 SRB)이면 부등호가 등호가 된다 — 페신 공식.

hμ(f)=∫∑iλi+ dμh_\mu(f) = \int \sum_i \lambda_i^+\,d\mu

변분 원리와 합치면 실무에서 가장 자주 쓰는 부등식 하나가 나온다.

htop(f)  ≥  hμSRB(f)=∑iλi+h_{\mathrm{top}}(f) \;\ge\; h_{\mu_{\mathrm{SRB}}}(f) = \sum_i \lambda_i^+

리아푸노프 지수를 재서 양의 것들을 더하면 위상 엔트로피의 하한이 공짜로 나온다. 다만 하한일 뿐이다. 등호가 되는 것은 SRB 측도가 동시에 MME일 때뿐이고, 완전 텐트 사상이나 스메일 말굽 같은 균등 쌍곡계가 그런 행운의 경우다(텐트 사상 문서에 세 값이 겹치는 계산이 있다).

7. 구간 사상 — h > 0 이 곧 카오스[편집]

1차원에서는 이야기가 훨씬 구체적이다. 연속 구간 사상 f:[0,1]→[0,1]f:[0,1]\to[0,1]에 대해 다음이 서로 동치다.

htop(f)>0  ⟺  2의 거듭제곱이 아닌 주기의 주기점이 존재  ⟺  말굽류 불변집합이 존재h_{\mathrm{top}}(f) > 0 \iff \text{2의 거듭제곱이 아닌 주기의 주기점이 존재} \iff \text{말굽류 불변집합이 존재}

마지막 동치는 우연이 아니다. 차원이 낮은 곳에서 양의 엔트로피는 결국 말굽에서 나온다.3

거꾸로 h=0h=0인 구간 사상의 주기 집합은 {1,2,4,8,…}\{1,2,4,8,\ldots\}의 부분집합뿐이다. 주기배가 캐스케이드가 엔트로피 0을 유지한 채 진행하다가, 축적점(파이겐바움 상수의 그 r∞r_\infty)을 지나는 순간 엔트로피가 0에서 떨어져 나온다는 그림이 여기서 나온다.

주기 구조와 엔트로피를 잇는 정량적 결과도 있다. 사르코프스키 정리의 순서

3⊳5⊳7⊳⋯⊳2⋅3⊳2⋅5⊳⋯⊳8⊳4⊳2⊳13 \rhd 5 \rhd 7 \rhd \cdots \rhd 2\cdot3 \rhd 2\cdot5 \rhd \cdots \rhd 8 \rhd 4 \rhd 2 \rhd 1

에서 앞선 주기가 존재하면 뒤의 모든 주기가 강제된다. 그리고 주기 3이 있으면 그냥 복잡한 정도가 아니라 엔트로피에 정량적 하한이 걸린다.

주기 3 존재  ⟹  htop(f)≥log⁡1+52≈0.4812\text{주기 3 존재} \;\Longrightarrow\; h_{\mathrm{top}}(f) \ge \log\frac{1+\sqrt5}{2} \approx 0.4812

황금비의 로그다. 일반적으로 홀수 주기 n>1n>1이 존재하면 xn−2xn−2−1=0x^n - 2x^{n-2} - 1 = 0의 최대근의 로그가 하한이며, n=3n=3일 때 이 다항식이 (x+1)(x2−x−1)(x+1)(x^2-x-1)로 인수분해되어 황금비가 튀어나온다. “주기 3이면 카오스”라는 유명한 표어의 정량판이다.

계산 쪽에서 가장 쓸모 있는 것은 미슈레비치-슐렌크 공식이다. 조각별 단조 사상에서 ℓ(fn)\ell(f^n)을 fnf^n의 단조 조각(lap) 개수라 하면

htop(f)=lim⁡n→∞1nlog⁡ℓ(fn)h_{\mathrm{top}}(f) = \lim_{n\to\infty}\frac{1}{n}\log \ell(f^n)

이다. ℓ(fn)\ell(f^n)은 그래프를 한 번 훑어 세면 되므로, 1차원에서는 엔트로피 계산이 곡선의 굴곡 개수 세기로 환원된다.

대표값을 정리하면 이렇다.

사상위상 엔트로피
기울기 ss의 텐트 사상, 1≤s≤21\le s\le2log⁡s\log s
완전 텐트(s=2s=2) · 로지스틱 사상 r=4r=4log⁡2\log 2
로지스틱 r<r∞=3.5699…r<r_\infty=3.5699\ldots00
스메일 말굽log⁡2\log 2
원 위 차수 dd 확대사상log⁡d\log d
무리수 회전00

로지스틱 사상의 h(r)h(r)이 rr에 대해 연속이고 단조 증가한다는 밀너-서스턴의 결과가 이 표의 두 번째·세 번째 줄을 잇는다. 완전 텐트와 r=4r=4 로지스틱이 같은 값인 이유는 x=sin⁡2(πy/2)x=\sin^2(\pi y/2)라는 위상 공액이 존재하기 때문이고, 엔트로피가 공액 불변량이라는 성질의 가장 깔끔한 시연이다.

8. 마르코프 분할과 전이행렬 — 실제로 계산하는 법[편집]

엔트로피를 손으로 계산할 수 있는 거의 유일한 통로가 기호 동역학으로의 환원이다. 상태공간을 유한 개 조각 {R1,…,Rm}\{R_1,\ldots,R_m\}으로 나누되, 각 조각의 상이 다른 조각을 덮거나 아예 안 만나도록(마르코프 조건) 자르면, 궤도가 조각 번호의 수열로 부호화된다. 허용되는 전이를 0/10/1 행렬로 적은 것이 전이행렬 AA이고,

(An)ij=길이 n 짜리 i→j 경로 수⟹#{길이 n 단어}∼ρ(A)n\bigl(A^n\bigr)_{ij} = \text{길이 } n\text{ 짜리 } i\to j \text{ 경로 수} \quad\Longrightarrow\quad \#\{\text{길이 } n \text{ 단어}\} \sim \rho(A)^n

이므로 AA가 기약이면

htop=log⁡ρ(A)h_{\mathrm{top}} = \log \rho(A)

가 된다. ρ\rho는 페론-프로베니우스 정리가 보장하는 최대 실고유값이다. 엔트로피 계산이 거듭제곱법 한 번으로 끝난다. 완전 2-이동은 A=(1111)A = \begin{pmatrix}1&1\\1&1\end{pmatrix}, ρ=2\rho=2, 엔트로피 log⁡2\log2 — 말굽의 그 값이다.

이 방법의 실질적 병목은 계산이 아니라 분할을 찾는 일이다. 마르코프 분할의 존재는 균등 쌍곡계(아노소프, 공리 A)에서만 보장되고, 3차원 이상 아노소프계에서는 분할의 경계가 매끄러울 수 없다(보웬 1978). 실무에서는 근사 분할로 얻은 행렬의 log⁡ρ\log\rho를 격자를 세밀하게 하며 수렴시키는데, 이 수열이 위에서 수렴하는지 아래에서 수렴하는지조차 일반적으로는 보장되지 않는다.

9. 수치적 추정이 왜 어려운가[편집]

정의를 그대로 코드로 옮기려는 시도는 대체로 실패한다. 이유가 여럿이다.

  • 이중 극한. ε→0\varepsilon\to0과 n→∞n\to\infty를 함께 보내야 하는데 두 극한이 교환되지 않는다. ε\varepsilon을 줄이면 필요한 nn이 커지고, 세어야 할 분리집합 크기는 enhe^{nh}로 늘어난다. 정확도를 한 자릿수 올리려면 표본이 지수적으로 필요하다.
  • 상한이라는 성질. htoph_{\mathrm{top}}는 최악의 불변집합이 정한다. 무작위 초기조건은 SRB 측도가 사는 곳만 훑으므로 측도 0의 안장형 집합(과도 카오스, 프랙탈 유역 경계)이 기여하는 엔트로피를 구조적으로 못 본다.
  • 불연속. 엔트로피는 계에 대해 연속이 아니다. C∞C^\infty 콤팩트 다양체 사상에서 뉴하우스가 보인 상반연속이 있을 뿐이라, 이산화·잡음·절단이 들어간 근사계의 엔트로피는 참값보다 떨어질 수 있고 떨어져도 티가 안 난다.
  • 엉뚱한 양을 재는 문제. 시계열에서 흔히 계산하는 상관 엔트로피 K2K_2, 순열 엔트로피, 근사 엔트로피는 전부 측도 엔트로피 계열이고 htoph_{\mathrm{top}}의 하한이다. 논문에서 “엔트로피를 측정했다”고 할 때 어느 쪽인지 확인하지 않으면 비교 자체가 성립하지 않는다.

그래서 현실적인 처방은 정의를 피해 가는 것이다.

  1. 1차원이면 미슈레비치-슐렌크의 lap 계수, 또는 반죽열(kneading) 행렬식으로 정확값에 가까운 값을 얻는다.
  2. 쌍곡계이면 마르코프 분할 → 전이행렬 → 거듭제곱법.
  3. 주기궤도를 셀 수 있으면 h=lim⁡1nlog⁡#Fix(fn)h = \lim \frac1n\log\#\mathrm{Fix}(f^n)을 쓴다. 공리 A류에서 성립하며, 주기궤도 탐색이 아르틴-마주르 제타함수 계산과 같아진다. 일반계에서는 성립하지 않는다는 점만 기억할 것.
  4. 아무것도 안 되면 리아푸노프 지수를 재서 ∑λi+\sum\lambda_i^+를 하한으로 보고한다. 정직하게 “하한”이라고 쓰는 것이 핵심이다.

10. 관련 문서[편집]

11. Footnotes[편집]

  1. 이름의 유래가 재미있다. ACM 논문은 섀넌의 정보 엔트로피와 콜모고로프-시나이 엔트로피를 위상 버전으로 옮기려는 시도였는데, 정작 논문에는 확률이 한 번도 안 나온다. “엔트로피”라는 단어가 확률 없이 쓰인 드문 사례이며, 그래서 열역학적 직관을 그대로 들고 오면 오히려 헷갈린다. 여기서 늘어나는 것은 무질서가 아니라 구별 가능한 이야기의 가짓수다. ↩

  2. 슈브의 엔트로피 추측 — htop(f)h_{\mathrm{top}}(f)가 호몰로지에 유도된 사상의 스펙트럼 반경의 로그보다 크거나 같다 — 은 “위상수학이 동역학의 복잡도에 하한을 건다”는 주장이다. C∞C^\infty 사상에 대해서는 욤딘(1987)이 증명했고, C1C^1에서는 반례가 있다. 매끄러움 한 단계 차이로 정리가 살고 죽는 이 바닥의 성격을 잘 보여 주는 예. ↩

  3. 카토크의 정리에 따르면 곡면 위의 C1+αC^{1+\alpha} 미분동형이 h>0h>0이면 엔트로피가 hh에 임의로 가까운 말굽이 반드시 존재한다. 즉 2차원에서 엔트로피는 결국 말굽에서 나온다. 반대로 이 정리가 3차원 이상에서 그대로 성립하지 않는다는 것이, 고차원 동역학이 왜 그렇게 지저분한지를 설명하는 여러 이유 중 하나다. ↩