만델브로 집합

1. 개요[편집]

만델브로 집합 Mandelbrot set
정의	z0 = 0, zn+1 = zn2 + c 의 궤도가 유계인 c 의 집합
포함 관계	M ⊂ {|c| ≤ 2}
연결성	연결 (두아디-허바드, 1982)
넓이	≈ 1.5065 (수치 추정)
경계 차원	하우스도르프 차원 = 2 (시시쿠라, 1998)
미해결	국소 연결성(MLC) 추측

만델브로 집합(Mandelbrot set) $M$은 복소 이차 사상 $z \mapsto z^2 + c$를 임계점 $z_0 = 0$에서 반복했을 때 궤도가 유계로 남는 복소 파라미터 $c$ 전체의 집합이다.

$$M = \left\{\, c \in \mathbb{C} \;:\; \sup_{n \ge 0} |z_n| < \infty,\quad z_0 = 0,\ z_{n+1} = z_n^2 + c \,\right\}$$

정의에 등장하는 것은 복소수 곱셈 한 번과 덧셈 한 번뿐이다. 그런데 이 집합의 경계는 아무리 확대해도 새로운 구조가 끝없이 나오고, 그 하우스도르프 차원은 정확히 2이며, “국소 연결인가”라는 물음은 40년 넘게 미해결이다. 프랙탈 일반론(자기유사성, 차원의 정의, 상자 세기)은 프랙탈 문서에 있고, 이 문서는 $M$ 고유의 구조와 그것을 화면에 띄우는 계산을 다룬다.

이름은 1980년 IBM에서 처음 그림을 뽑아낸 브누아 만델브로에게서 왔지만, 대상 자체는 1978년 브룩스와 마텔스키가 클라인 군 연구 중에 이미 거친 형태로 그려 놓았고, 뿌리는 1918년 전후 쥘리아와 파투의 복소 반복 이론까지 올라간다.¹

2. 반지름 2 — 탈출시간 알고리즘의 근거[편집]

$M$을 그리는 표준 방법은 탈출시간 알고리즘이다. 각 픽셀의 $c$에 대해 $z$를 반복하다가 $|z|$가 어떤 문턱을 넘으면 그때까지의 반복 횟수를 색으로 칠하고, 상한까지 살아남으면 검게 남긴다. 이 알고리즘이 정당한 이유는 문턱이 2라는 것이 근사가 아니라 정리이기 때문이다.

어떤 $n$에서 $|z_n| > 2$이고 $|c| \le 2$이면, $z_k \to \infty$이다.

증명은 삼각부등식 한 줄이다. $|z_n| = 2 + \delta$ ($\delta > 0$)라 하면

$$|z_{n+1}| = |z_n^2 + c| \;\ge\; |z_n|^2 - |c| \;\ge\; |z_n|^2 - |z_n| \;=\; |z_n|\,(|z_n| - 1) \;=\; (1+\delta)\,|z_n|$$

이므로 $|z_{n+1}| > |z_n|$이고 $\delta$는 매 단계 커진다. 따라서 증가율이 $1+\delta$ 이상으로 계속 커지며 기하급수적으로 발산한다. 그리고 $|c| > 2$이면 $z_1 = c$가 이미 조건을 만족하므로 그런 $c$는 애초에 $M$에 없다. 즉 $M \subset \{|c| \le 2\}$이고, 반지름 2 원판만 훑으면 된다는 것까지 같은 계산에서 나온다.

실무에서는 문턱을 2가 아니라 $10^2 \sim 10^5$ 정도로 크게 잡는다. 정확성 때문이 아니라 색을 매끄럽게 만들기 위해서다. 탈출 횟수 $n$은 정수라 색이 계단으로 끊기는데, 큰 문턱 $R$에서 매끄러운 반복 횟수

$$\nu = n - \log_2 \log_2 |z_n|$$

를 쓰면 띠 경계가 사라진다. 이 보정식은 $z \mapsto z^2$ 근처에서 $\log|z|$가 매 반복마다 두 배가 된다는 사실(뵈처 좌표)에서 나오며, 문턱이 클수록 정확해진다.

3. 내부의 해석 — 주 카디오이드와 주기 2 원판[편집]

검게 칠해지는 영역, 즉 $M$의 내부에는 구조가 있다. 쌍곡 성분(hyperbolic component)이라 불리는 각 덩어리는 “이 $c$에서 사상이 주기 $p$인 끌개 주기궤도를 갖는다”는 조건으로 정의되고, 그중 두 개는 경계가 초등적으로 적힌다.

주 카디오이드(main cardioid, 주기 1). 고정점 $z^*$는 $z^2 - z + c = 0$을 만족하고 그 승수는 $\mu = f'(z^*) = 2z^*$다. $z^* = \mu/2$를 대입하면

$$c = z^* - (z^*)^2 = \frac{\mu}{2} - \frac{\mu^2}{4}$$

이므로, 끌개 고정점이 존재할 조건 $|\mu| < 1$을 대입하면 $\mu = e^{i\theta}$가 그리는 상이 곧 성분의 경계다. 이것이 첨점(cusp)을 $c = 1/4$에 둔 카디오이드이고, 넓이는 정확히 $3\pi/8 \approx 1.1781$이다. $M$ 전체 넓이의 78%가 이 한 덩어리다.

주기 2 원판. 2주기 궤도 $\{z_1, z_2\}$는 $z^2 + z + (c+1) = 0$의 두 근이고, 그 승수는 $4z_1 z_2 = 4(c+1)$이다. 따라서 안정 조건 $|4(c+1)| < 1$은

$$\left| c + 1 \right| < \tfrac{1}{4}$$

— 중심 $-1$, 반지름 $1/4$인 완벽한 원이다. 넓이는 $\pi/16$. 이 두 식은 예쁠 뿐 아니라 실용적이다. 렌더링에서 두 영역을 미리 걸러내면 반복 상한을 다 채우는 픽셀의 대부분이 즉시 처리되어, 확대하지 않은 전체 그림의 렌더 시간이 몇 배 빨라진다.

주기 3 이상의 성분부터는 경계식이 대수적으로 폭발하므로 닫힌 형태를 포기하고 수치로 다룬다. 카디오이드 경계 위 유리각 $\theta = 2\pi p/q$ 지점마다 주기 $q$짜리 원판(구근, bulb)이 접해 있고, 각 구근에 붙은 안테나의 가지 수가 $q$와 일치한다는 사실은 두아디-허바드의 외부 광선 이론이 설명해 준다.

4. 줄리아 집합의 지도[편집]

$M$이 단순한 예쁜 그림이 아닌 이유는, $M$이 다른 대상들의 분류표이기 때문이다. $c$를 고정하고 $z_0$를 훑어 만든 집합이 줄리아 집합 $J_c$인데, 파투-쥘리아의 기본 이분법은 이렇게 말한다.

$$c \in M \iff J_c \text{ 가 연결} , \qquad c \notin M \iff J_c \text{ 가 완전 비연결(칸토어 먼지)}$$

중간은 없다. 그리고 $M$의 정의에 왜 하필 $z_0 = 0$이 등장하는지도 여기서 풀린다. $0$은 $z^2 + c$의 유일한 임계점이고, 복소 동역학의 핵심 정리는 모든 끌개 주기궤도가 임계점 하나를 자기 흡인 유역 안으로 끌어당겨야 한다는 것이다. 그러니 임계 궤도 하나의 운명만 추적하면 사상 전체의 운명이 결정된다. $M$은 “매개변수 $c$ 하나마다 줄리아 집합 하나”라는 무한한 목록에 붙은 한 장짜리 색인인 셈이다.

$M$이 연결이라는 사실 자체가 정리다. 두아디와 허바드(1982)는 여집합 $\mathbb{C}\setminus M$에서 단위원판 바깥 $\{|w|>1\}$으로 가는 등각동형 $\Phi$를 명시적으로 구성했다. 여집합이 단연결이므로 $M$은 연결이다. 사실 이 사상은 훨씬 많은 것을 준다 — $\Phi^{-1}$로 되돌린 반직선들이 외부 광선이고, 유리각 광선이 $M$의 어디에 착륙하는지가 구근의 조합론 전체를 결정한다. 그림만 보면 잘린 것처럼 보이는 가느다란 필라멘트들도 실제로는 전부 이어져 있다.²

여전히 열려 있는 것은 MLC 추측(Mandelbrot Locally Connected) — $M$이 국소 연결인가? 참이라면 두아디-허바드의 “핀치된 원판” 모형이 $M$을 완전히 기술하게 되고, 이차 다항식족에서 쌍곡성이 조밀하다는 것까지 따라 나온다. 요코즈 등이 상당 부분을 증명했지만 무한 재규격화 가능한 경우가 남아 있다.

5. 실축 위 — 로지스틱 사상과 파이겐바움[편집]

$M \cap \mathbb{R} = [-2,\ 1/4]$이고, 이 선분 위에서 벌어지는 일이 바로 분기 이론의 교과서 사례인 주기배가 캐스케이드다. 실수 이차 사상 $z^2+c$와 로지스틱 사상 $x \mapsto r x(1-x)$는 아핀 변수변환으로 서로 켤레이며, 대응 관계는

$$c = \frac{r}{2} - \frac{r^2}{4}$$

다. 이 한 줄로 두 세계의 좌표가 번역된다.

사건	$r$ (로지스틱)	$c$ (이차)
주기 1 탄생	1	1/4 (카디오이드 첨점)
주기 1 → 2	3	−3/4 (카디오이드-원판 접점)
주기 2 → 4	3.44949	−5/4
파이겐바움 축적점	3.569946	−1.401155
주기 3 창 시작	3.828427	−7/4
완전 카오스 끝	4	−2 (실축 끝, 꼬리)

축적점까지의 분기 간격비가 파이겐바움 상수 $\delta = 4.669201\ldots$로 수렴하고, 이 값이 로지스틱이든 사인 사상이든 이차 극값을 가진 단봉 사상이면 전부 같다는 보편성은 재규격화 논증으로 설명된다. 만델브로 그림에서 이것은 실축을 따라 원판들이 기하급수적으로 작아지며 줄지어 붙은 모습으로 보인다. 그리고 $c = -1.75$ 근처에서 실축 위에 뜬 눈에 띄는 작은 만델브로 복제본이 바로 주기 3 창이다.

미니 만델브로가 왜 어디에나 나오는지도 같은 이야기다. 두아디-허바드의 다항식형 사상(polynomial-like map) 이론에 따르면, $M$ 안의 적당한 작은 영역에서 $f_c^{\,p}$를 적절히 잘라 보면 그것이 다시 이차 다항식처럼 행동한다. 그래서 그 영역이 $M$ 전체의 복사본으로 보인다. 다만 복사본은 정확한 축소 복사가 아니다 — 주변 장식(안테나, 필라멘트)이 매번 다르다. $M$은 엄격 자기유사가 아니라 준자기유사(quasi-self-similar)다.

6. 계산의 현실[편집]

원리는 세 줄이지만 실제 렌더러는 다음 문제들과 싸운다.

• 내부 픽셀이 비용을 다 먹는다. 탈출하는 점은 몇 번 만에 끝나고, $M$ 안의 점은 언제나 상한을 다 채운다. 그래서 카디오이드·주기 2 원판 판정식 두 줄($q=(x-\tfrac14)^2+y^2$일 때 $q(q+x-\tfrac14) < \tfrac{y^2}{4}$, 그리고 $(x+1)^2+y^2 < \tfrac1{16}$)을 앞에 두는 것이 국룰이다. 여기에 궤도 주기 검출(사이클 감지)을 붙이면 나머지 내부도 조기 종료된다.
• 경계 추적. $M$은 연결이고 여집합도 연결이므로, 같은 색으로 둘러싸인 영역 내부는 전부 같은 색이다. 사각형 테두리를 먼저 계산하고 색이 일정하면 내부를 통째로 채우는 경계 추적/사각 분할이 전통적인 가속법이다.
• 딥 줌과 정밀도. 배율이 $10^{15}$를 넘으면 배정밀도의 유효자리가 소진된다. 정공법인 다중정밀도 산술은 픽셀마다 쓰기엔 너무 느리므로, 실제로는 섭동 기법을 쓴다. 고정밀도로 기준 궤도 $Z_n$ 하나만 계산하고 나머지 픽셀은 차분 $\Delta z_n = z_n - Z_n$을 $\Delta z_{n+1} = 2 Z_n \Delta z_n + \Delta z_n^2 + \Delta c$ 로 배정밀도로 전진시킨다. $\Delta$가 작으므로 배정밀도로 충분하다. 여기에 급수 근사로 초반 수백~수천 반복을 건너뛰는 기법을 얹는다. 기준 궤도가 0 근처를 지나면 차분이 상대적으로 커져 결과가 깨지는 글리치가 생기는데, 이를 검출해 다른 기준 궤도로 다시 계산하는 절차가 현대 딥 줌 렌더러의 핵심이다.³
• 병렬성. 픽셀 간 의존성이 전혀 없어 병렬 컴퓨팅의 교과서적 embarrassingly parallel 예제다. 다만 픽셀마다 반복 횟수가 극단적으로 달라 GPU에서는 워프 내 발산이 심하므로, 정적 분할보다 동적 작업 분배가 유리하다.

7. 알려진 숫자들[편집]

• 넓이. 픽셀 계수로는 약 $1.5065$, 두아디-허바드 급수 전개의 부분합으로는 상계 $1.68$ 근처가 나온다. 수렴이 워낙 느려 엄밀한 값은 아직 모른다.
• 경계의 차원. 시시쿠라(1998)가 $\partial M$의 하우스도르프 차원이 정확히 $2$임을 증명했다. 넓이가 유한한 도형의 테두리가 면과 같은 차원을 갖는다는 뜻이며, 경계가 2차원 르베그 측도를 갖는지(넓이가 양수인지)는 별개의 미해결 문제다.
• 꼬리 끝. $c = -2$에서 임계 궤도는 $0 \to -2 \to 2 \to 2 \to \cdots$로 고정점에 안착한다. 유계이므로 $-2 \in M$이고, 여기가 실축 방향 끝이다.

8. 관련 문서[편집]

• 프랙탈 · 줄리아 집합 · 다중프랙탈
• 카오스 이론 · 분기 이론 · 로지스틱 사상 · 파이겐바움 상수
• 로렌츠 방정식 · 스메일 말굽 · 반복함수계
• 부동소수점 연산 · 병렬 컴퓨팅
• 컴퓨터 그래픽스 · 레이 트레이싱
• 동역학계 · 랴푸노프 지수

9. Footnotes[편집]

1. 만델브로가 1980년 IBM 프린터로 뽑은 첫 출력에서 주 카디오이드 주변에 흩어진 점들을 보고 “먼지”라고 판단해 지우려 했다는 일화가 유명하다. 그 먼지가 사실은 필라멘트로 이어진 진짜 구조였다. 프린터 해상도가 낮아 선이 점으로 끊겨 보였을 뿐. 노이즈로 오해받은 신호의 대표 사례. ↩

2. 그래서 “만델브로 집합은 조각조각 떨어져 있다”는 인상은 전부 해상도의 문제다. 화면에 끊겨 보이는 필라멘트를 확대하면 반드시 연결선이 나온다. 다만 그 선의 두께가 픽셀 크기보다 작아서, 유한한 해상도로는 영원히 확인할 수 없다는 것이 함정이다. ↩

3. 이 섭동+급수 기법은 학계가 아니라 프랙탈 렌더링 커뮤니티(K. I. Martin의 2013년 공개 문서, 이후 Kalles Fraktaler 같은 도구)에서 나왔고, 글리치 검출 기준도 포럼 닉네임으로 알려진 사람의 이름을 그대로 달고 있다. 취미 커뮤니티가 수치해석 문제를 실무적으로 해결한 드문 사례. ↩