변분법

수치해석 물리 마지막 수정: 2026-07-12 04:04:19

1. 개요[편집]

변분법 Calculus of Variations
다루는 대상	범함수(functional)의 극값
핵심 방정식	오일러-라그랑주 방정식
대표 원리	최소작용 원리
수치 응용	유한요소법, 갤러킨 방법, 위상 최적화

미적분학이 “어느 점에서 함수가 최소인가”를 묻는다면, 변분법은 “어느 함수에서 값이 최소인가”를 묻는다.

변분법(Calculus of Variations)은 함수를 입력으로 받아 실수 하나를 뱉는 사상, 즉 범함수(functional)의 극값(최댓값·최솟값·정류값)을 찾는 수학 분야다. 보통의 미적분에서 우리는 변수 $x$ 에 대해 함수 $f(x)$ 를 최소화하는 점을 찾지만, 변분법에서는 함수 $y(x)$ 자체를 “변수”로 취급하여, 어떤 함수가 적분으로 정의된 값

J[y] = \int_a^b L\!\left(x, y, y'\right)\, dx

를 극값으로 만드는지를 찾는다. 미지수가 유한 개의 숫자가 아니라 함수 전체라는 점이 결정적 차이. 무한 차원 최적화라고 봐도 크게 틀리지 않다.

변분법은 물리학의 최소작용 원리, 미분방정식의 약형식(weak form), 그리고 유한요소법과 갤러킨 방법 같은 수치해석 기법의 이론적 뿌리다. 즉 겉보기엔 순수 수학 같지만, 실은 오늘날 굴러가는 거의 모든 구조·유체 시뮬레이션의 밑바닥에 깔려 있는 개념이다.

2. 브라키스토크론 — 변분법의 탄생[편집]

변분법의 시작은 1696년 요한 베르누이가 학계에 던진 도발적인 문제였다. 중력만 작용하는 상황에서 두 점을 잇는 곡선 중 구슬이 가장 빨리 미끄러져 내려오는 곡선은 무엇인가? 이것이 그 유명한 브라키스토크론(brachistochrone, 최단강하선) 문제다.¹ 직관적으로는 직선이 최단거리니까 제일 빠를 것 같지만, 정답은 사이클로이드(cycloid)다. 초반에 가파르게 떨어져 속도를 확보하는 쪽이 이득이라는, 다소 반직관적인 결론.

이 문제를 풀기 위해 뉴턴, 라이프니츠, 야코프 베르누이, 로피탈 등 당대의 거물들이 총출동했고, 뉴턴은 밤샘 계산 끝에 하루 만에 익명으로 답을 보냈다는 일화가 전해진다.² 이 문제 풀이 과정에서 등장한 아이디어를 오일러와 라그랑주가 체계화하면서 변분법이라는 분야가 성립했다.

3. 오일러-라그랑주 방정식[편집]

변분법의 심장은 오일러-라그랑주 방정식이다. 범함수 $J[y]$ 가 어떤 함수 $y(x)$ 에서 극값을 가진다면, 그 함수는 반드시 다음 미분방정식을 만족한다.

\frac{\partial L}{\partial y} - \frac{d}{dx}\!\left(\frac{\partial L}{\partial y'}\right) = 0

유도의 핵심 아이디어는 이렇다. 극값을 주는 함수 $y(x)$ 에 임의의 작은 교란 $\varepsilon\,\eta(x)$ 를 더해본다. 이때 양 끝점은 고정하므로 $\eta(a)=\eta(b)=0$ 이다. 교란된 범함수 $J[y+\varepsilon\eta]$ 를 $\varepsilon$ 에 대한 함수로 보면, $\varepsilon=0$ 에서 극값이므로 그 미분(1차 변분, first variation)이 0이어야 한다. 여기에 부분적분을 적용하고, “임의의 $\eta$ 에 대해 성립”한다는 조건(변분법의 기본 보조정리)을 쓰면 위 방정식이 튀어나온다.

말하자면 오일러-라그랑주 방정식은 “함수 공간에서 기울기가 0인 지점”을 나타내는 방정식이다. 미적분의 $f'(x)=0$ 을 무한 차원으로 확장한 것.

4. 최소작용 원리와 라그랑지언[편집]

변분법이 물리학과 만나면 최소작용 원리(principle of least action, 정확히는 정류작용 원리)가 된다. 고전역학에서 계의 운동은 작용(action)

S = \int_{t_1}^{t_2} L\left(q, \dot q, t\right)\, dt

을 정류값으로 만드는 경로를 따른다. 여기서 $L = T - V$ (운동에너지 빼기 위치에너지)를 라그랑지언(Lagrangian)이라 부른다. 이 작용에 오일러-라그랑주 방정식을 적용하면 놀랍게도 뉴턴의 운동 제2법칙 $F=ma$ 가 그대로 튀어나온다.³

이 관점의 위력은 좌표계에 얽매이지 않는다는 데 있다. 극좌표든 구면좌표든 회전하는 좌표계든, 라그랑지언만 올바르게 쓰면 운동방정식이 자동으로 나온다. 그래서 진자, 강체, 유체, 나아가 장(field) 이론까지 물리학의 거의 모든 분야가 라그랑지언 형식으로 재서술된다. 양자역학의 경로적분, 일반상대성이론의 아인슈타인 방정식조차 각각의 작용을 변분한 결과다.

5. 약형식과 수치해석 — FEM의 뿌리[편집]

변분법이 시뮬레이션 엔지니어에게 중요한 진짜 이유가 여기 있다. 많은 물리 문제는 두 가지 방식으로 서술할 수 있다.

강형식(strong form): 미분방정식과 경계조건. 예를 들어 포아송 방정식 $-\nabla^2 u = f$ .
약형식(weak form) 또는 최소화 원리: 어떤 에너지 범함수를 최소화하는 문제.

예컨대 위 포아송 문제는 다음 범함수를 최소화하는 것과 동치다.

\Pi[u] = \int_\Omega \left( \tfrac{1}{2}\,|\nabla u|^2 - f\,u \right) d\Omega

이 최소화 문제에 변분을 취하면 정확히 원래의 미분방정식이 되돌아온다. 이 등가성이 유한요소법의 핵심이다. 유한요소법은 함수 공간을 유한 개의 기저함수로 근사한 부분공간으로 제한하고, 그 안에서 범함수를 최소화(또는 약형식을 만족)하는 근사해를 찾는다. 즉 무한 차원 변분 문제를 유한 차원 대수 문제로 바꾸는 것이 유한요소법의 정체다.

밀접하게 연결된 것이 갤러킨 방법이다. 최소화 원리가 존재하지 않는 문제(비대칭 연산자 등)에서도, 잔차를 시험함수(test function)에 직교시키는 방식으로 약형식을 세울 수 있다. 대칭·양정치인 경우엔 갤러킨 방법과 변분 최소화가 정확히 같아지는데, 이를 레일리-리츠(Rayleigh-Ritz) 방법이라 부른다.⁴ 이 계보 덕분에 구조해석, 열전달 해석, 고유값 문제까지 하나의 이론 틀로 다뤄진다.

6. 제약과 응용 — 위상 최적화까지[편집]

실제 문제에는 제약이 붙는다. “둘레가 일정할 때 넓이 최대”(등주 문제) 같은 경우, 라그랑주 승수를 함수 버전으로 도입해 제약 있는 변분 문제를 푼다. 이 조건부 변분 아이디어는 최적설계로 곧장 이어진다.

최단강하선/측지선: 곡면 위 두 점을 잇는 최단 경로(측지선)도 변분 문제. 일반상대성이론에서 빛과 물체의 경로가 된다.
최소곡면: 비눗막이 만드는 표면은 표면적 범함수를 최소화한다. 표면장력과 직결.
위상 최적화: 주어진 하중을 견디는 가장 가벼운 구조를 찾는 문제는, 재료 분포를 함수로 보고 컴플라이언스 범함수를 최소화하는 변분 문제다. 오늘날 항공·자동차 경량화 설계의 핵심 도구이며, 최소자승법이나 형상 최적화 같은 인접 분야와 함께 최적설계의 한 축을 이룬다.

결국 “무언가를 최소화/최대화하는 함수를 찾는다”는 문제는 어디에나 있고, 그 언어가 바로 변분법이다. 브라키스토크론에서 시작한 300년짜리 도구가 지금은 GPU 위에서 강성행렬을 조립하고 있다.

7. 관련 문서[편집]

그리스어로 brachistos(가장 짧은) + chronos(시간). “최단거리선”이 아니라 “최단시간선”이라는 점이 이름부터 함정이다. 직선을 찍고 틀리는 사람이 나오라고 만든 문제나 마찬가지. ↩
요한 베르누이는 익명의 답안을 보고 “발톱을 보고 사자를 알아본다(tanquam ex ungue leonem)“며 뉴턴임을 알아챘다고 한다. 참고로 뉴턴은 당시 조폐국장 업무로 바빴는데, 문제를 받은 그날 저녁에 풀었다는 전설. ↩
이걸 처음 배우면 “그럼 물체가 미래의 도착점을 미리 알고 최적 경로를 고른다는 거냐”는 철학적 현기증에 빠지기 쉽다. 실제로는 국소적인 오일러-라그랑주 방정식과 완전히 등가라서, 물체는 아무것도 예지하지 않는다. 안심하자. ↩
리츠는 유한 개의 시행함수 선형결합으로 근사해를 세운다는 아이디어를 1908년에 내놓았는데, 이게 사실상 유한요소법의 조상이다. 정작 “유한요소(finite element)“라는 이름은 1960년 클러프(Ray Clough)가 붙였다. ↩

변분법