헬름홀츠 방정식

수치해석 계산물리 물리 마지막 수정: 2026-08-13 04:48:31

1. 개요[편집]

헬름홀츠 방정식 Helmholtz equation
형태	∇²u + k²u = 0
유래	파동방정식 + 시간조화 가정
등장 분야	음향 · 전자기 · 탄성파 · 양자 산란
무한영역 조건	좀머펠트 방사조건
수치적 난점	오염 효과(pollution), 비정부호성
대표 처방	이동 라플라스 전처리, 스위핑, 영역 분할법

헬름홀츠 방정식(Helmholtz equation)은 시간조화(time-harmonic) 파동의 공간 분포를 지배하는 타원형 편미분방정식

\nabla^{2} u + k^{2} u = 0

이며, $k = \omega/c$ 를 파수라 부른다. 소스가 있으면 우변에 $-f$ 가 붙어 비제차 형태가 된다. 겉보기엔 라플라스 방정식에 항 하나 더한 온순한 식인데, 그 항 하나가 부호를 뒤집는 순간 수치해석의 난이도가 통째로 달라진다. 고파수 헬름홀츠 문제는 21세기 들어서도 “타원형 방정식 중 가장 안 풀리는 것” 취급을 받고, 전용 학회 세션이 따로 있을 정도다.

2. 파동방정식에서의 유도[편집]

출발은 스칼라 파동방정식이다.

\frac{\partial^{2} U}{\partial t^{2}} = c^{2}\nabla^{2}U

여기에 단일 각진동수의 조화 해 $U(\mathbf{x},t) = \mathrm{Re}\!\left[u(\mathbf{x})e^{-i\omega t}\right]$ 를 넣으면 시간 미분이 $-\omega^2$ 로 떨어지고 시간이 소거되어 헬름홀츠 방정식이 남는다. 즉 주파수 영역으로 옮긴 파동방정식이다. 여러 주파수를 다뤄야 하면 각각에 대해 따로 풀고 푸리에 변환으로 합성한다. 시간 적분을 안 해도 되고 CFL 조건에서도 자유롭지만, 대신 전 공간이 한꺼번에 결합된 큰 선형계 하나가 남는다는 것이 이 거래의 조건이다.

부호가 반대인 사촌 $\nabla^2 u - \kappa^2 u = 0$ 은 수정 헬름홀츠 방정식(screened Poisson)이라 부르며, 확산 방정식의 음해법 한 스텝이나 스크리닝된 정전 문제에서 나온다. 이쪽은 연산자가 양정부호라 다중격자법이 아주 잘 듣는다. 같은 식에서 부호 하나 바꿨을 뿐인데 한쪽은 교과서 예제, 다른 쪽은 미해결 난제다.¹

3. 경계조건과 방사조건[편집]

유한 영역에서는 세 가지가 국룰이다.

디리클레 $u = g$ — 음향에서 압력이 0인 자유표면(sound-soft), 전자기에서 완전도체.
노이만 $\partial u/\partial n = g$ — 강체 벽(sound-hard).
임피던스/로빈 $\partial u/\partial n - ik\beta u = g$ — 부분 흡음벽. 복소 계수라 연산자가 비대칭·비에르미트가 된다.

문제가 무한 영역(산란, 방사)이면 경계조건만으로는 해가 유일하지 않다. 안쪽으로 들어오는 파동을 배제해야 하는데, 그 역할을 하는 것이 좀머펠트 방사조건이다. $d$ 차원에서

\lim_{r\to\infty} r^{\frac{d-1}{2}}\left(\frac{\partial u}{\partial r} - iku\right) = 0

이 조건이 “에너지는 무한대로 나가기만 한다”를 수학적으로 못 박는다. 자유공간 그린 함수 $e^{ikr}/(4\pi r)$ 가 이걸 만족하는 쪽 가지이며, $e^{-ikr}/(4\pi r)$ 은 들어오는 파동이라 버려진다.²

체적 이산화 기법으로 무한 영역을 다루려면 영역을 잘라야 하는데, 자른 면에서 인공 반사가 생기면 계산이 통째로 오염된다. 그래서 완전정합층(PML)이나 흡수 경계조건, 또는 아예 무한 영역을 자연스럽게 다루는 경계요소법으로 간다.

경계조건을 제차로 두고 $k^2$ 를 미지수로 놓으면 고유값 문제 $-\nabla^2 u = k^2 u$ 가 되어 방·악기·도파관의 공진 모드가 나온다.³ 고유값 개수가 부피에 비례해 $N(k) \sim V k^d$ 로 늘어난다는 바일 법칙이 이 문제의 기본 감각이다 — 주파수를 두 배 올리면 3차원에서 모드가 8배 늘어난다.

4. 왜 고파수가 지옥인가 — 오염 효과[편집]

헬름홀츠 문제의 악명은 여기에 있다. 상식적으로는 “파장당 격자점을 10개 정도 깔면 되겠지”라고 생각하기 쉽다. 즉 $kh$ 를 상수로 고정하는 것이다. 그런데 그것만으로는 부족하다.

차수 $p$ 의 유한요소법에서 상대 오차는 대략

\frac{\|u - u_h\|_{H^1}}{\|u\|_{H^1}} \;\lesssim\; C_1 (kh)^{p} + C_2\, k\,(kh)^{2p}

로 추정된다. 첫 항은 익숙한 보간 오차이고, $kh$ 를 고정하면 얌전히 상수로 남는다. 문제는 앞에 $k$ 가 하나 더 붙은 둘째 항이다. 1차 요소( $p=1$ )면 이 항이 $k^3h^2$ 이고, $kh$ 를 고정한 채 $k$ 를 키우면 $k$ 에 비례해 커진다. 이것이 오염 효과(pollution effect)다.

물리적 정체는 수치 분산이다. 이산 격자 위에서 파동의 수치적 위상속도가 정확한 값과 미세하게 다르고, 그 위상 오차가 파동이 지나가는 파장 수만큼 누적된다. 진폭은 멀쩡한데 위상이 밀려서, 100파장쯤 지나면 파형이 반 주기 어긋나 있는 식이다. 격자를 파장 기준으로 촘촘히 하는 것은 국소 오차를 줄일 뿐 누적을 막지 못한다.

$k^3h^2 \lesssim \mathrm{const}$ 를 요구하면 $h \sim k^{-3/2}$ , 즉 파장당 격자점 수 자체가 $\sqrt{k}$ 로 늘어나야 한다. 3차원에서 자유도는 $h^{-3} \sim k^{4.5}$ 로 폭증한다. 주파수를 두 배 올리면 미지수가 20배 넘게 늘어난다는 뜻이다. 바부슈카와 자우터(1997)는 유명한 논문 제목 그대로 “표준 FEM에서 오염을 피할 수 있는가”를 물었고, 2차원 이상에서는 피할 수 없다는 답을 냈다.

완화책은 있다. 오차식에서 고차 요소는 오염 항이 $k(kh)^{2p}$ 라 $p$ 를 올리면 훨씬 빨리 억제되므로, 고파수에서는 hp-FEM·스펙트럴 방법이 저차 요소보다 압도적으로 유리하다. 또 애초에 기저함수를 평면파로 잡아 방정식을 국소적으로 만족시키는 트레프츠 계열(초약 변분 정식화 UWVF, 평면파 DG, PUFEM)이나, 분산 관계를 맞추도록 스텐실을 조정하는 유한차분법 최적화 기법도 이 맥락에서 나온 것이다.

5. 왜 반복해법이 잘 안 먹는가 — 비정부호성[편집]

이산화한 선형계 $(K - k^2 M)\mathbf{u} = \mathbf{f}$ 를 보자. $k$ 가 커지면 $k^2$ 이 강성행렬 $K$ 의 저차 고유값들을 넘어서고, 그 결과 계수행렬은 양수와 음수 고유값을 동시에 갖는 비정부호(indefinite) 행렬이 된다. 이 한 가지 사실에서 모든 어려움이 파생된다.

다중격자법이 무너진다. 다중격자는 “매끄러운 오차는 조대 격자가, 진동하는 오차는 완화가 잡는다”는 역할 분담 위에 서 있다. 그런데 헬름홀츠에서는 $-\nabla^2 - k^2$ 의 고유값이 거의 0인 모드들이 격자 규모에서 진동하는 파동 모드다. 완화(자코비·가우스-자이델)는 이들을 전혀 감쇠시키지 못하고, 조대 격자는 그 파장을 표현할 해상도가 없다. 게다가 조대 격자 연산자가 특이해지거나 부호가 뒤집혀 반복이 발산하는 일까지 벌어진다.
크릴로프 수렴이 나쁘다. 계수행렬이 대칭이되 정부호가 아니라 켤레기울기법의 이론이 성립하지 않고, GMRES를 써도 고유값이 복소평면에서 원점을 둘러싸고 흩어져 있어 다항식 근사가 잘 되지 않는다. ILU 같은 범용 전처리기도 $k$ 가 커지면 급격히 무력해진다.
직접법으로 도망갈 수 없다. 3차원에서 자유도가 $k^{4.5}$ 로 늘어나는데, 희소 직접법의 채움(fill-in)은 그것보다 더 나쁘게 커진다. 2차원까지는 MUMPS 같은 다중프론트 직접법이 실무 답이지만, 3차원 고주파에서는 메모리부터 터진다.

5.1. 이동 라플라스 전처리[편집]

가장 널리 알려진 처방이 이동 라플라스 전처리기(complex shifted Laplacian, 에를랑가·베윅·오스테를레 2004~2006)다. 원래 연산자 대신

M = -\nabla^{2} - (\beta_1 + i\beta_2)k^{2}

를 전처리기로 쓴다. 허수 이동 $i\beta_2 k^2$ 은 감쇠를 넣는 것과 같아서, $M$ 의 스펙트럼을 실축에서 떼어놓고 파동을 지수적으로 감쇠시킨다. 그러면 $M$ 자체는 다중격자가 잘 듣는 문제가 되고, $M^{-1}$ 을 근사적으로 적용하는 비용이 싸진다. 전형적 선택이 $(\beta_1,\beta_2)=(1,0.5)$ 다.

다만 이것도 만능이 아니다. 이동을 크게 잡으면 $M$ 은 풀기 쉬워지지만 원래 연산자와 멀어져 반복 횟수가 늘고, 작게 잡으면 원래 문제에 가까워지는 대신 다중격자가 다시 무너진다. 전처리 효과가 $k$ 에 무관하려면 이동이 작아야 하고, 다중격자가 성립하려면 이동이 커야 한다 — 간더·그레이엄·스펜스(2015)가 이 두 요구가 고파수에서 양립할 수 없음을 정량적으로 보였다. 실무에서는 여전히 잘 쓰이지만, ” $k$ 에 무관한 반복수”라는 성배는 이 방향으로는 못 얻는다는 것이 정리된 셈이다.

5.2. 스위핑과 영역 분할[편집]

그래서 요즘 주류는 파동이 한쪽으로 흘러간다는 물리를 전처리기에 심는 쪽이다. 엥크비스트와 잉의 스위핑 전처리기(2011)는 영역을 얇은 층으로 잘라 한 방향으로 훑으며 근사 LDL 분해를 만드는데, 각 층 사이의 슈어 여인자를 이동 PML로 근사한다. 반복수가 $k$ 에 거의 무관하고 전체 비용이 자유도에 거의 선형이라는, 이 분야에서 드문 성과다.

영역 분할법 계열에서도 같은 통찰이 통한다. 고전 슈바르츠는 계면에서 디리클레 값을 주고받는데, 헬름홀츠에서는 이게 수렴하지 않는다(들어오고 나가는 파동을 구분하지 못한다). 데프레(1990) 이후 계면 전달조건을 임피던스형/흡수형 로빈 조건으로 바꾸는 것이 표준이 되었고, 이를 최적화한 것이 최적화 슈바르츠 방법이다. 소스 전달(source transfer), 편극 트레이스 등 스위핑과 사촌인 변형들이 계속 나오고 있다.

6. 적분방정식 쪽 길[편집]

체적 격자를 포기하고 경계에만 미지수를 두는 접근도 있다. 헬름홀츠의 자유공간 그린 함수를 알고 있으므로 경계요소법(전자기에서는 모멘트법)으로 산란·방사 문제를 표면 적분방정식으로 바꿀 수 있다. 무한 영역이 공짜로 처리되고 방사조건이 자동으로 만족되며, 미지수가 차원 하나만큼 줄어든다는 것이 이 노선의 매력이다.

대신 고유의 함정이 둘 있다.

가상 공진(spurious/fictitious resonance). 외부 문제를 단일층 또는 이중층 표현 하나로만 세우면, 내부 문제의 고유주파수에서 적분방정식이 특이해져 답이 무너진다. 물리적으로 존재하지 않는 공진이므로 반드시 손봐야 한다. 표준 처방이 내부에 여분의 선점을 두는 CHIEF(솅크 1968)와, 두 표현을 복소 계수로 결합해 모든 실수 $k$ 에서 유일해를 보장하는 버턴-밀러 정식화(1971)다. 후자는 초특이(hypersingular) 연산자를 다뤄야 해서 적분이 까다롭다.
조밀 행렬. $N \times N$ 이 꽉 차 있어 $O(N^2)$ 메모리· $O(N^3)$ 연산이 든다. 그래서 고속 다중극자법이나 계층 저계수 근사로 행렬-벡터 곱을 $O(N\log N)$ 으로 낮추는 것이 필수다. 고주파에서는 저주파용 다중극 전개가 불안정해져 대각화된 고주파 FMM으로 갈아타야 한다.

$k$ 가 극단적으로 크면 아예 파동 방정식을 푸는 것을 포기하고 기하광학·회절 이론(GTD/UTD) 같은 점근 기법으로 넘어가는 것이 정석이다. 저주파는 체적법, 중간은 적분방정식, 초고주파는 점근법 — 이 삼분할이 안테나 해석과 전산음향학의 실무 지형도다.

7. 무엇을 언제 쓰나[편집]

정리하면 실무 선택지는 파수와 문제 성격의 함수다.

상황	주력 도구	주의점
저~중 파수, 비균질 매질	유한요소법 + PML, 희소 직접법	2차원까지는 직접법이 편하다
고파수, 균질 배경	적분방정식 + 고속 다중극	가상 공진 처리 필수
고파수, 비균질, 3차원	스위핑·영역 분할법 전처리 + 크릴로프	구현 난이도가 본체보다 높다
초고파수, 형상 지배	기하광학·회절 점근법	파동 효과를 놓친다
공진 모드가 목표	고유값 문제 풀이	모드 밀도가 $k^d$ 로 폭증

여기에 얹히는 실무 감각 몇 가지.

파장당 격자점 10개는 출발점이지 정답이 아니다. 도메인이 몇 파장짜리인지 세어 보고, 파장 수가 수십을 넘어가면 오염을 의심해야 한다. 진폭이 아니라 위상이 틀리므로, 잔차 그래프만 보면 아무 문제 없어 보인다는 것이 이 오차의 악질적인 점이다.
검증은 해석해로. 자유공간 점소스, 강체 구 산란(급수해), 직육면체 방의 고유주파수처럼 닫힌 해가 있는 문제로 위상 오차를 재는 것이 국룰이다. 미 산란이 전자기 솔버의 황금 기준인 것과 같은 이유.
주파수 스윕은 병렬화가 공짜다. 주파수마다 문제가 독립이므로 임베디드 병렬로 뿌리면 된다. 단, 각 주파수 문제 하나가 이미 클러스터를 다 먹는 상황이면 얘기가 달라진다.

8. 어디서 만나나[편집]

음향: 실내 음향, 소음 방사, 수중음향. 전산음향학의 주파수 영역 해석은 통째로 이 방정식이다.
전자기: 맥스웰 방정식을 시간조화로 두면 벡터 헬름홀츠 방정식이 되고, 미 산란·T-행렬법·이산 쌍극자 근사가 전부 그 해법이다. 광결정과 메타물질의 밴드 계산도 주기 계수 헬름홀츠 고유값 문제다.
탄성파·지구물리: 주파수 영역 완전파형역산(FWI)은 여러 주파수의 헬름홀츠 문제를 수백 번 푸는 일이고, 위에서 말한 솔버 난제가 곧 이 분야의 계산 예산 그 자체다.
양자: 정상 상태 슈뢰딩거 방정식은 퍼텐셜이 있는 헬름홀츠 방정식이며, 산란 진폭·공진 계산이 같은 언어를 쓴다.

9. 관련 문서[편집]

파동방정식 · 라플라스 방정식 · 포아송 방정식 · 그린 함수
유한요소법 · 유한차분법 · 스펙트럴 방법 · 수치분산
영역 분할법 · 최적화 슈바르츠 방법 · 다중격자법 · GMRES · 크리로프 부분공간법
경계요소법 · 모멘트법 · 고속 다중극자법 · 완전정합층
전산음향학 · 안테나 해석 · 고유값 문제 · 조건수
미 산란 · T-행렬법 · 이산 쌍극자 근사 · 메타물질 · 광결정

부호가 왜 그렇게 중요한가 하면, $-\nabla^2 + \kappa^2$ 는 그린 함수가 지수적으로 감쇠해 “국소적”인 반면 $-\nabla^2 - k^2$ 의 그린 함수는 $e^{ikr}/r$ 로 진동하며 천천히 줄어 사실상 전 영역이 결합되기 때문이다. 국소성이 사라지면 다중격자든 영역 분할이든 “이웃과만 얘기하면 된다”는 전제가 통째로 무너진다. ↩
부호 규약이 시간 인자를 $e^{-i\omega t}$ 로 잡느냐 $e^{+j\omega t}$ 로 잡느냐에 따라 뒤집힌다. 물리 쪽은 전자, 전기공학 쪽은 후자를 즐겨 써서 같은 문제의 논문 두 편을 나란히 놓으면 지수의 부호가 정반대다. 코드 이식할 때 켤레 한 번 안 취해서 파동이 안쪽으로 빨려 들어가는 결과를 뽑아 본 사람이 한둘이 아니다. ↩
이 고유값 문제로부터 나온 유명한 질문이 마크 칵(1966)의 “북의 모양을 들을 수 있는가” — 즉 헬름홀츠 고유값 전체가 영역 형상을 결정하는가다. 1992년 고든·웹·볼퍼트가 스펙트럼이 같으면서 모양이 다른 두 평면 영역을 제시해 “못 듣는다”로 결론이 났다. 참고로 반례 도형은 아무도 북으로 만들고 싶어 하지 않게 생겼다. ↩