미분기하

수치해석 컴퓨터 그래픽스 계산물리 마지막 수정: 2026-09-03 04:48:09

1. 개요[편집]

미분기하 Differential Geometry
곡선	프레네-세레 — 곡률 $\kappa$, 비틀림 $\tau$
곡면	제1기본형식(계량) + 제2기본형식(형상)
곡률	가우스 $K=\kappa_1\kappa_2$ · 평균 $H=(\kappa_1+\kappa_2)/2$
핵심 정리	가우스의 뛰어난 정리 — $K$ 는 내재적이다
대역 정리	가우스-보네 — $\int K\,dA=2\pi\chi$
계산 쪽 후손	코탄젠트 라플라시안, 껍질 요소, 레벨셋 곡률항
한 줄 요약	곡면 안에 사는 개미가 알 수 있는 것과 알 수 없는 것

종이는 원통으로 말 수 있지만 공으로 감쌀 수는 없다. 이 문장을 정리로 만들면 미분기하가 시작된다.

미분기하(differential geometry)는 곡선·곡면·다양체 같은 매끄러운 기하 대상을 미적분으로 다루는 분야다. 핵심 질문은 “이 대상이 얼마나 휘었는가”를 좌표 선택에 의존하지 않는 양으로 정의하는 것이고, 그 답으로 나오는 것이 곡률(curvature)의 여러 얼굴들이다.

시뮬레이션 위키에 이 문서가 있는 이유는 취미가 아니다. 셋만 꼽아도 이렇다.

껍질·막 유한요소의 변형률은 문자 그대로 두 기본형식의 변화량이다. 막 변형률은 제1기본형식의 변화, 굽힘 변형률은 제2기본형식의 변화다.
레벨셋 방법의 곡률항 $\nabla\!\cdot\!(\nabla\phi/|\nabla\phi|)$ 은 평균곡률의 두 배다. 표면장력 항과 곡률 유동이 여기서 나온다.
그래픽스의 코탄젠트 라플라시안은 조각별 선형 유한요소의 강성행렬이다. 메시 스무딩·파라미터화·측지선 계산이 전부 여기 얹혀 있다.

이웃 문서와의 분담은 이렇다. 계량을 얹은 추상 다양체 위의 최적화·통계는 리만 다양체, 측지선의 변분 구조와 수치 계산은 측지선, 확률분포족에 피셔 계량을 얹는 이야기는 정보 기하가 담당한다. 이 문서는 그 앞자리 — 3차원 공간에 놓인 곡선과 곡면의 고전 이론, 그리고 거기서 계산 쪽으로 뻗은 가지를 본다.

2. 곡선 — 프레네-세레[편집]

곡선을 호길이 $s$ 로 매개화하면( $|\mathbf r'(s)|=1$ ) 곡선에 붙어 함께 움직이는 정규직교 좌표계가 자연스럽게 나온다. 접선 $\mathbf T$ , 주법선 $\mathbf N$ , 종법선 $\mathbf B=\mathbf T\times\mathbf N$ 의 셋을 프레네 표구라 부르고, 그 회전 법칙이 프레네-세레 공식이다.

\frac{d\mathbf T}{ds}=\kappa\mathbf N,\qquad \frac{d\mathbf N}{ds}=-\kappa\mathbf T+\tau\mathbf B,\qquad \frac{d\mathbf B}{ds}=-\tau\mathbf N

곡률 $\kappa$ 는 곡선이 평면 안에서 휘는 정도, 비틀림 $\tau$ 는 그 평면 자체가 비틀리는 정도다. 임의 매개변수에서는

\kappa=\frac{|\mathbf r'\times\mathbf r''|}{|\mathbf r'|^3}, \qquad \tau=\frac{(\mathbf r'\times\mathbf r'')\cdot\mathbf r'''}{|\mathbf r'\times\mathbf r''|^2}

로 계산한다. 그리고 이 두 함수가 곡선을 완전히 결정한다 — 곡선론의 기본정리는 $\kappa(s)>0$ 과 $\tau(s)$ 를 주면 그것을 실현하는 곡선이 강체운동을 빼고 유일하게 존재한다고 말한다. 즉 $(\kappa,\tau)$ 는 곡선의 좌표 없는 완전한 이름표다.

계산 쪽에서 이 공식이 살아 있는 자리가 탄성 로드다. 머리카락·케이블·DNA·수술 실을 시뮬레이션할 때 중심선의 굽힘 에너지를 $\int EI\kappa^2/2\,ds$ , 비틀림 에너지를 $\int GJ\tau^2/2\,ds$ 로 쓰는 코세라 로드 모형이 표준이고, 이산화하면 $\kappa$ 는 인접 세그먼트 사이의 회전각을 호길이로 나눈 것, $\tau$ 는 표구의 이면각을 호길이로 나눈 것이 된다. $\tau$ 항을 빼먹으면 케이블이 고리를 만들며 꼬이는 현상(coiling)이 재현되지 않는다.

주의할 함정 하나. 프레네 표구는 $\kappa=0$ 인 점에서 $\mathbf N$ 이 정의되지 않아 직선 구간을 지날 때 튄다. 그래서 실무 코드는 프레네 대신 회전 최소화 표구(Bishop frame)를 쓴다. 이론의 표준과 구현의 표준이 다른 대표적인 예다.

3. 곡면 — 두 개의 기본형식[편집]

매개곡면 $\mathbf x(u,v)$ 에 대해 두 개의 2차 형식이 모든 것을 담는다.

제1기본형식은 접평면의 내적, 즉 계량이다.

\mathrm I=E\,du^2+2F\,du\,dv+G\,dv^2,\qquad E=\mathbf x_u\!\cdot\!\mathbf x_u,\ F=\mathbf x_u\!\cdot\!\mathbf x_v,\ G=\mathbf x_v\!\cdot\!\mathbf x_v

여기서 길이·각도·면적이 나온다. 곡면 위에서만 측정 가능한 양은 전부 제1기본형식의 함수이며, 이런 양을 내재적(intrinsic)이라 부른다.

제2기본형식은 곡면이 주변 공간에서 어떻게 휘는지를 담는다. 단위법선 $\mathbf n$ 을 $S^2$ 위의 점으로 보는 사상 $\mathbf n:S\to S^2$ 를 가우스 사상이라 하고, 그 미분(부호를 바꾼 것)이 형상 연산자 $\mathcal S=-d\mathbf n$ 이다. 성분으로 쓰면

\mathrm{II}=e\,du^2+2f\,du\,dv+g\,dv^2,\qquad e=\mathbf x_{uu}\!\cdot\!\mathbf n,\ f=\mathbf x_{uv}\!\cdot\!\mathbf n,\ g=\mathbf x_{vv}\!\cdot\!\mathbf n

이고, 행렬로는 $\mathcal S=\mathrm I^{-1}\mathrm{II}$ 다. 형상 연산자의 고윳값이 주곡률 $\kappa_1,\kappa_2$ , 고유벡터가 주방향이다. 여기서 두 불변량이 나온다.

K=\kappa_1\kappa_2=\det\mathcal S=\frac{eg-f^2}{EG-F^2}, \qquad H=\frac{\kappa_1+\kappa_2}{2}=\tfrac12\operatorname{tr}\mathcal S

$K$ 가 가우스 곡률, $H$ 가 평균 곡률이다. 이름은 비슷하지만 성격이 완전히 다르다.

곡면	$\kappa_1,\kappa_2$	$K$	$H$	성격
평면	$0,0$	$0$	$0$	전개 가능, 극소
반지름 $R$ 원기둥	$1/R,\,0$	$0$	$1/(2R)$	전개 가능
반지름 $R$ 구	$1/R,\,1/R$	$1/R^2$	$1/R$	볼록, 전개 불가
말안장	$+,\,-$	$<0$	부호 임의	쌍곡점
비누막(현수면 등)	$\kappa,\,-\kappa$	$<0$	$0$	극소곡면

$K=0$ 인 곡면은 전개 가능(developable)하다. 종이·판금처럼 늘어나지 않는 재료로 만들 수 있다는 뜻이고, 재단·판금 전개도·지도 투영이 전부 이 조건과 씨름한다. $H=0$ 인 곡면은 극소곡면으로, 주어진 경계에 대해 면적이 정류(대개 최소)인 곡면이다 — 비눗물에 철사 고리를 담그면 자연이 이 방정식을 풀어 준다.

4. 가우스의 뛰어난 정리[편집]

$K$ 를 정의할 때 우리는 법선을 썼다. 법선은 곡면 밖으로 나가야 알 수 있는 물건이니, $K$ 는 외재적 양처럼 보인다. 그런데 아니다.

가우스의 뛰어난 정리(theorema egregium, 1827): $K$ 는 제1기본형식과 그 도함수만으로 계산된다. 즉 가우스 곡률은 내재적이다.

이 한 줄이 미분기하의 성격을 바꿨다. 곡면 안에 사는 2차원 생물이 밖을 보지 못해도 삼각형의 내각의 합을 재서 자기 세계의 곡률을 알아낼 수 있다는 뜻이고, 여기서 내재적 기하학 — 결국 리만 기하학과 일반 상대성이론 — 의 계보가 시작된다. 아인슈타인이 중력을 시공간의 곡률로 쓸 수 있었던 것은 “밖에서 본 휘어짐” 없이도 곡률을 말할 수 있다는 이 정리 덕분이다.

실용적 귀결이 즉시 따라온다.

등거리사상은 $K$ 를 보존한다. 늘리거나 찢지 않고 곡면을 다른 곡면으로 옮기면 $K$ 는 그대로다. 원기둥과 평면은 둘 다 $K=0$ 이라 서로 펼칠 수 있고, 구는 $K>0$ 이라 어떤 방법으로도 평면에 왜곡 없이 펼칠 수 없다. 모든 지도가 거짓말인 이유가 정리로 증명된다.
피자 조각 트릭. 피자를 한 방향으로 살짝 접으면 다른 방향으로 처지지 않는다. 도우는 늘어나지 않아 $K=0$ 을 유지해야 하는데, 한 방향에 곡률을 주면 $\kappa_1\kappa_2=0$ 을 맞추려고 다른 방향 곡률이 0으로 강제되기 때문이다. 미분기하 정리를 저녁 식사에서 쓰는 거의 유일한 사례.¹
판금과 복합재 성형. $K\ne0$ 인 형상을 평판에서 만들려면 반드시 재료가 늘거나 줄어야 한다. 프레스 성형의 두께 감소, 복합재 프리프레그의 주름(wrinkling)이 이 기하학적 필연의 결과이고, 그래서 성형 해석은 곡률 분포부터 본다.

내재적 관점을 끝까지 밀면 좌표에서 크리스토펠 기호 $\Gamma^k_{ij}$ , 공변미분, 측지선 방정식, 리만 곡률 텐서가 나온다. 2차원에서는 리만 텐서의 독립 성분이 하나뿐이고 그것이 정확히 $K$ 라는 사실이 이 계보의 출발점이다. 이 방향의 상세는 리만 다양체와 측지선에 있으므로 여기서는 넘긴다.

5. 가우스-보네 — 국소가 대역을 결정한다[편집]

미분기하에서 가장 인상적인 정리를 하나 고르라면 대개 이것이다. 경계가 있는 컴팩트 곡면 $M$ 에 대해

\int_M K\,dA+\oint_{\partial M}\kappa_g\,ds=2\pi\chi(M)

$\kappa_g$ 는 경계의 측지 곡률, $\chi$ 는 오일러 지표다( $\chi=V-E+F$ , 종수 $g$ 의 닫힌 곡면에서 $\chi=2-2g$ ). 경계가 없으면

\int_M K\,dA=2\pi\chi(M)

곡률의 총량이 위상만으로 정해진다. 구는 $\chi=2$ 이므로 어떻게 찌그러뜨려도 $\int K\,dA=4\pi$ 이고, 도넛은 $\chi=0$ 이므로 안쪽의 음곡률과 바깥쪽의 양곡률이 반드시 정확히 상쇄된다. 곡률을 한쪽으로 몰 수는 있지만 총량은 손댈 수 없다.

이 정리는 “국소적으로 측정한 미분량의 적분 = 대역적 위상 불변량”이라는 형태의 원형이고, 그 후손이 푸앵카레-호프 지표 정리(털 난 공을 매끄럽게 빗을 수 없다는 그 정리)와 아티야-싱어 지표 정리다. 계산 쪽에서 특히 유용한 것은 이산판이 정확히 성립한다는 사실이다. 삼각 메시의 꼭짓점 $i$ 에서 주변 각의 합이 $2\pi$ 에서 얼마나 모자라는지를 각결손 $d_i=2\pi-\sum_j\theta_j$ 라 하면

\sum_i d_i=2\pi\chi

가 근사가 아니라 항등식으로 성립한다(데카르트의 정리). 정육면체 메시에서 꼭짓점 8개의 각결손이 각각 $\pi/2$ 이므로 합이 $4\pi$ , 구와 같다. 도넛 메시의 각결손을 다 더하면 정확히 0이 나온다. 코드로 한 번 확인해 보면 이산 미분기하의 설계 철학이 단번에 이해된다.

6. 이산 미분기하 — 코드가 실제로 쓰는 것[편집]

메시 위에서 곡률을 계산하는 소박한 방법은 국소 다항식을 맞춰 미분하는 것이다. 그런데 이 방식은 정리를 깨뜨린다 — 각 꼭짓점의 곡률을 따로 추정해 더하면 가우스-보네가 안 맞는다. 이산 미분기하(discrete differential geometry)의 철학은 반대다. 극한에서 수렴하는 것보다 이산 구조에서 정리를 정확히 만족시키는 것이 낫다. 위의 각결손 정의가 그 예이고, 이렇게 정의하면 구조 보존이 공짜로 따라온다.

핵심 도구가 코탄젠트 라플라시안이다. 꼭짓점 함수 $u$ 에 대해

(\Delta u)_i=\frac{1}{2A_i}\sum_{j\in N(i)}\bigl(\cot\alpha_{ij}+\cot\beta_{ij}\bigr)\,(u_j-u_i)

$\alpha_{ij},\beta_{ij}$ 는 변 $ij$ 를 마주보는 두 각이고 $A_i$ 는 꼭짓점의 이중 면적(보로노이 또는 배럴센터 면적)이다. 이 공식의 출처가 중요하다 — 삼각형 위의 조각별 선형(P1) 유한요소로 디리클레 에너지 $\tfrac12\int|\nabla u|^2$ 를 이산화한 강성행렬이 정확히 이 형태다. 즉 그래픽스 논문의 “코탄젠트 가중치”와 유한요소법 교과서의 삼각형 강성행렬은 같은 물건이며, 두 분야가 서로 모른 채 같은 식을 재발명했다.

여기서 두 가지가 나온다.

평균곡률은 좌표함수의 라플라시안이다. 곡면의 좌표사상 $\mathbf x$ 에 라플라스-벨트라미를 걸면

\Delta\mathbf x=2H\,\mathbf n

(부호는 법선·라플라시안 규약에 따라 뒤집힌다). 그래서 코탄젠트 라플라시안을 정점 좌표에 적용하면 평균곡률 법선 벡터가 나오고, 그것을 따라 정점을 조금씩 옮기는 것이 평균곡률 흐름이다. 라플라시안 스무딩(메시 페어링)이 곡면을 매끄럽게 만들면서 동시에 쪼그라들게 만드는 이유가 여기 있다 — 구는 이 흐름으로 유한 시간 안에 점으로 붕괴한다. 부피 보존 항을 넣거나 접선 방향 성분만 쓰는 보정이 실무 처방이다. 상세는 평균곡률 흐름.

이산 가우스 곡률은 각결손 밀도다. $K_i=d_i/A_i$ 로 정의하면 가우스-보네가 정확히 성립하고, 이것이 메시 위의 표준 정의다.

실무에서 반드시 물리는 함정이 있다. 코탄젠트 가중치는 음수가 될 수 있다. $\cot\alpha_{ij}+\cot\beta_{ij}<0$ 은 $\alpha_{ij}+\beta_{ij}>\pi$ 와 동치이고, 이는 그 변이 들로네 조건을 위반한다는 뜻이다. 음의 가중치가 있으면 이산 최대원리가 깨져서 스무딩이 국소적으로 뒤집히고, 열확산을 풀면 음의 온도가 나오고, 파라미터화가 접힌다. 처방은 두 가지다 — 메시를 다시 삼각화해 들로네 삼각분할을 만들거나, 연결성은 그대로 두고 내재적 들로네 뒤집기(intrinsic Delaunay flip)로 곡면 위의 삼각화만 고치는 것이다. 후자는 기하를 전혀 바꾸지 않고 라플라시안만 고치므로 요즘 표준이다.

이 도구 위에 얹힌 응용이 넓다. 메시 파라미터화(각도 왜곡을 최소화하는 LSCM·ABF), 스펙트럴 메시 처리(라플라시안 고유함수를 기저로 쓰는 것), 벡터장 설계, 그리고 측지선 문서가 다루는 열 방법(heat method) — 측지 거리를 열방정식 한 번과 푸아송 방정식 한 번으로 구하는 그 알고리즘이 전부 코탄젠트 라플라시안 한 개를 조립해 만든다. 상세는 이산 미분기하.

7. 연속체 역학과 유체에서[편집]

껍질과 막. 껍질 이론은 곡면 미분기하를 그대로 물려받았다. 변형 전후의 중립면을 각각 곡면으로 보고, 제1기본형식의 변화 $\tfrac12(a_{\alpha\beta}-A_{\alpha\beta})$ 를 막 변형률, 제2기본형식의 변화 $b_{\alpha\beta}-B_{\alpha\beta}$ 를 굽힘 변형률로 정의하는 것이 코이터 껍질 모형의 골격이다. 그리고 이 정의에서 껍질 해석의 유명한 병리들이 설명된다.

막 잠김(membrane locking). 껍질이 얇아지면 막 강성이 굽힘 강성보다 $(t/R)^{-2}$ 배로 커지므로, 이산화가 막 변형률을 정확히 0으로 만들 수 없으면 요소가 실제보다 훨씬 딱딱해진다. 곡률이 있는 요소에서 특히 심하다.
$K$ 의 부호가 거동을 지배한다. 양곡률 껍질(돔)은 하중을 막 응력으로 받아 극도로 효율적이고, 음곡률 껍질(쌍곡 포물면)은 두 방향 인장-압축으로 받는다. $K=0$ 인 원통은 축방향으로는 막, 원주방향으로는 굽힘이 섞인다. 껍질 구조 설계가 사실상 곡률 설계인 이유다. 요소 구현 쪽은 쉘 요소.

표면장력과 자유표면. 영-라플라스 방정식 $\Delta p=\sigma(\kappa_1+\kappa_2)=2\sigma H$ 가 계면 압력차를 평균곡률로 준다. 표면장력이 지배하는 유동 계산이 결국 곡률 계산 정확도 문제로 환원되는 이유이고, 비누막의 $H=0$ 도 여기서 나온다( $\Delta p=0$ ).

레벨셋과 음함수 표현. $\phi=0$ 으로 계면을 표현하면 법선과 곡률이 미분으로 직접 나온다.

\mathbf n=\frac{\nabla\phi}{|\nabla\phi|},\qquad \kappa=\nabla\!\cdot\!\mathbf n=\nabla\!\cdot\!\left(\frac{\nabla\phi}{|\nabla\phi|}\right)

3차원에서 이 $\kappa$ 는 $\kappa_1+\kappa_2=2H$ 다(가우스 곡률이 아니다 — 흔한 혼동이다). 부호거리함수라면 $|\nabla\phi|=1$ 이라 $\kappa=\Delta\phi$ 로 간단해지는데, 이것이 레벨셋 방법에서 재초기화를 계속 해 주는 실용적 이유 중 하나다. 곡률 계산이 2차 미분이라 노이즈에 민감해서, 계면 근처의 $\phi$ 가 부호거리성을 잃으면 표면장력 항이 먼저 망가진다.

8. 여담[편집]

가우스는 1818년부터 하노버 왕국의 삼각측량 사업을 직접 지휘했고, 그 경험이 곡면론으로 이어진 것은 확실하다. 다만 그가 브로켄-호에하겐-인셀스베르크 대삼각형으로 공간 자체의 곡률을 측정하려 했다는 널리 퍼진 이야기는 사료적 근거가 약하다는 지적이 여러 번 있었다 — 측량의 실제 목적은 지도였고, 비유클리드 기하에 대한 그의 관심과 그 측량을 직접 연결하는 문서는 없다. 좋은 이야기지만 각색된 쪽에 가깝다.
리만이 내재적 기하학을 다양체 일반으로 확장한 것은 1854년 괴팅겐 교수자격 강연 「기하학의 기초에 놓인 가설들에 대하여」였고, 심사위원석에 가우스가 앉아 있었다. 가우스는 이때 이미 노년이었고 다음 해에 죽었다.
이산 미분기하가 순수 수학이 아니라 컴퓨터 그래픽스에서 꽃핀 것은 우연이 아니다. 그래픽스에서 곡면의 실물은 언제나 삼각 메시이므로, “연속 곡면의 근사”가 아니라 “그 자체로 완결된 이산 기하”가 필요했다. 이 관점이 역으로 수학 쪽에 되돌아가 이산 외미분과 구조 보존 이산화의 언어가 되었다.²
실무에서 곡률을 처음 계산하면 대개 결과가 지저분해서 당황한다. 곡률은 2차 미분이라 메시 노이즈를 두 번 증폭하기 때문이다. 표시용이면 스무딩을 걸고, 계산에 쓸 것이면 정의를 바꾸는 편이 낫다 — 미분을 정확하게 계산하려 애쓰기보다 적분 형태로 정의된 양을 쓰는 것이 이 분야의 국룰이다.³

9. 관련 문서[편집]

엄밀히는 도우가 아주 조금은 늘어나므로 완전한 $K=0$ 구속은 아니고, 치즈와 토핑의 무게가 만드는 굽힘 모멘트를 접힘으로 늘린 단면 2차 모멘트가 버티는 구조 문제도 섞여 있다. 그래도 “왜 접으면 안 처지는가”의 1차 답은 전개 가능성이다. 미분기하 강의에서 이 예제를 안 쓰는 교수를 본 적이 없다. ↩
그래서 이 분야 논문은 저자 목록이 특이하다. 수학과와 그래픽스 랩이 공동 저자로 붙어 있고, 결과물은 SIGGRAPH에 나오고, 증명은 부록에 있다. 그리고 그 증명이 실제 코드보다 짧은 경우가 많다 — 정리를 정확히 만족시키도록 정의를 고른 덕분이다. ↩
예를 들어 꼭짓점 곡률을 “그 주변 영역에 대한 곡률 적분”으로 정의하면(각결손이 정확히 그렇다) 노이즈에 훨씬 강하고 정리도 맞는다. 미분값을 점마다 추정하는 접근은 예쁜 메시에서만 잘 돌아가고, 스캔 데이터에서는 대개 무너진다. 스캔 메시에 곡률 컬러맵을 씌웠는데 무지개 노이즈가 나오면 정의를 의심할 때다. ↩