에르미트 다항식

1. 개요

에르미트 다항식 Hermite polynomials
구간 · 가중	$(-\infty,\infty)$, $e^{-x^2}$ (물리) 또는 $e^{-x^2/2}$ (확률)
점화식 (물리)	$H_{n+1}=2xH_n-2nH_{n-1}$
점화식 (확률)	$He_{n+1}=x\,He_n-n\,He_{n-1}$
관계	$H_n(x)=2^{n/2}He_n(\sqrt2\,x)$
노름²	$\sqrt\pi\,2^n n!$ (물리) · $\sqrt{2\pi}\,n!$ (확률)
쓰이는 곳	양자 조화 진동자, 가우스-에르미트 구적, 다항식 카오스, 에지워스 전개

정규분포의 언어로 쓴 직교다항식. 물리학자와 확률론자가 서로 다른 사투리를 쓴다.

에르미트 다항식(Hermite polynomials)은 실수 전체에서 가우스 가중함수에 대해 직교하는 직교다항식 계열이다. 이름은 1864년 논문의 샤를 에르미트를 따르지만, 라플라스(1810)가 확률론에서, 체비쇼프(1859)가 이미 다룬 적이 있다.

두 가지 표준화가 공존하고, 이것이 실무 실수의 1순위다.¹

• 물리학자의 $H_n$: 가중 $e^{-x^2}$, $H_0 = 1$, $H_1 = 2x$, $H_2 = 4x^2 - 2$, $H_3 = 8x^3 - 12x$. 최고차 계수가 $2^n$. 양자역학 교과서와 scipy.special.eval_hermite, NumPy numpy.polynomial.hermite 가 이쪽이다.
• 확률론자의 $He_n$: 가중 $e^{-x^2/2}$(표준정규 밀도), $He_0 = 1$, $He_1 = x$, $He_2 = x^2 - 1$, $He_3 = x^3 - 3x$. 최고차 계수가 1(모닉). scipy.special.eval_hermitenorm, NumPy hermite_e, 다항식 카오스 전개 문헌이 이쪽이다.

둘은 $H_n(x) = 2^{n/2}He_n(\sqrt2\,x)$ 로 이어진다. 확률론자 쪽의 장점은 $X \sim N(0,1)$ 이면 $E[He_m(X)He_n(X)] = n!\,\delta_{mn}$ 이라 「정규 확률변수의 다항식 함수」를 다룰 때 상수가 깔끔하다는 것이다. 직교다항식 일반론(가중 내적, 3항 점화식, 가우스 구적의 원리)은 직교다항식 문서가 다뤘으니, 여기서는 에르미트 고유의 성질과 계산 함정을 다룬다.

2. 기본 성질

물리학자 표준화로 적으면:

• 점화식: $H_{n+1}(x) = 2xH_n(x) - 2nH_{n-1}(x)$.
• 미분: $H_n'(x) = 2nH_{n-1}(x)$. 미분하면 차수가 하나 내려간 같은 계열이 나온다 — 아펠 수열(Appell sequence)의 성질로, 확률론자 판에서는 $He_n' = nHe_{n-1}$ 로 더 깔끔하다.
• 로드리게스 공식: $H_n(x) = (-1)^n e^{x^2}\dfrac{d^n}{dx^n}e^{-x^2}$. 가우스 함수를 $n$ 번 미분하면 에르미트 다항식 × 가우스가 나온다는 뜻이고, 확률론에서 정규 밀도의 도함수가 $He_n$ 으로 표현되는 이유다.
• 생성함수: $e^{2xt - t^2} = \sum_{n\ge0} H_n(x)\dfrac{t^n}{n!}$.
• 미분방정식: $y'' - 2xy' + 2ny = 0$ (에르미트 방정식). $n$ 이 정수일 때만 다항식 해가 있고, 이것이 다음 절의 양자화 조건이다.
• 대칭: $H_n(-x) = (-1)^nH_n(x)$. 짝수 차수는 짝함수, 홀수 차수는 홀함수.

3. 양자 조화 진동자 — 에르미트 함수

1차원 조화 진동자 $\hat H = -\tfrac{\hbar^2}{2m}\tfrac{d^2}{dx^2} + \tfrac12 m\omega^2x^2$ 의 슈뢰딩거 방정식을 무차원 좌표 $\xi = x\sqrt{m\omega/\hbar}$ 로 쓰면, 정규화된 고유함수가

$$\psi_n(\xi) = \frac{1}{\sqrt{2^n n!\sqrt\pi}}\,H_n(\xi)\,e^{-\xi^2/2}, \qquad E_n = \hbar\omega\big(n + \tfrac12\big)$$

이다. 이 $\psi_n$ 을 에르미트 함수라고 부르며 $L^2(\mathbb R)$ 의 정규직교 기저를 이룬다. 에너지가 정수 간격으로 양자화되는 것은 「에르미트 방정식이 $n$ 이 정수일 때만 무한대에서 발산하지 않는 해를 갖는다」는 사실의 물리적 표현이다.

에르미트 함수에는 푸리에 변환의 고유함수라는 숨은 성질이 있다. 유니터리 규약 $\hat f(k) = (2\pi)^{-1/2}\int f(x)e^{-ikx}dx$ 에서 $\hat\psi_n = (-i)^n\psi_n$. 위치 공간과 운동량 공간에서 조화 진동자 해가 같은 모양인 이유이고, 푸리에 변환의 고유값이 $\{1, -i, -1, i\}$ 넷뿐이라는 증명도 여기서 나온다.²

4. 계산 — 다항식은 넘치고 함수는 멀쩡하다

$H_n(x)$ 자체는 금방 거대해진다. 점화식으로 $x = 10$ 에서 재면 $H_{50}(10) \approx 1.35\times10^{61}$, $H_{100}(10) \approx -1.87\times10^{115}$, $H_{200}(10) \approx -4.70\times10^{238}$ 이고, 조금만 더 가면 배정밀도 범위($\sim 1.8\times10^{308}$)를 넘는다. 반면 물리적으로 의미 있는 양인 에르미트 함수는 모든 $n$, $x$ 에서 $\lvert\psi_n(x)\rvert \le \pi^{-1/4} \approx 0.751$ 로 유계다. $\psi_{200}$ 의 최댓값을 $[0, 25]$ 에서 찾으면 0.410 이다.

그러니 고차 계산은 $H_n$ 을 만든 뒤 정규화하지 말고, 정규화된 함수의 점화식을 직접 쓴다:

$$\psi_{n+1}(x) = \sqrt{\frac{2}{n+1}}\,x\,\psi_n(x) - \sqrt{\frac{n}{n+1}}\,\psi_{n-1}(x), \qquad \psi_0 = \pi^{-1/4}e^{-x^2/2}.$$

이 점화식은 전방 방향으로 안정하고(진동 영역에서 우세해·열세해 문제가 없다) 넘치지 않는다. 다만 $\psi_0$ 의 $e^{-x^2/2}$ 가 $x \gtrsim 38.6$ 에서 언더플로해 0 이 되는데, 그 영역에서도 고차 $\psi_n$ 은 0 이 아닐 수 있다(고전 전환점 $\sqrt{2n+1}$ 이 그보다 멀면). 그런 경우에는 로그 스케일로 점화식을 돌리거나 점근 전개를 쓴다. 급수 $\sum c_nH_n(x)$ 를 평가할 때는 클렌쇼 점화식이 같은 3항 점화식을 거꾸로 돌려 처리한다.

5. 가우스-에르미트 구적

가중 $e^{-x^2}$ 에 대한 가우스 구적은 $H_n$ 의 근을 노드로 쓴다:

$$\int_{-\infty}^{\infty} f(x)e^{-x^2}dx \approx \sum_{i=1}^{n} w_if(x_i).$$

노드와 가중치는 3항 점화식의 계수로 만든 대칭 삼중대각(야코비) 행렬의 고유값 분해로 구한다(골럽-웰시 1969). NumPy hermgauss 로 재면:

$n$	최대 노드	$\sqrt{2n+1}$	최소 가중치
10	3.44	4.58	$7.6\times10^{-6}$
20	5.39	6.40	$2.2\times10^{-13}$
50	9.18	10.05	$1.8\times10^{-37}$
100	13.41	14.18	$5.9\times10^{-79}$
200	19.34	20.02	$2.2\times10^{-163}$

최대 노드는 고전 전환점 $\sqrt{2n+1}$ 안쪽에서 대략 $\sqrt{2n}$ 처럼 자라고, 바깥쪽 가중치는 무섭게 작아진다. $n$ 을 수백 이상으로 올리면 최소 가중치가 언더플로하므로, 아주 고차의 규칙은 골럽-웰시 대신 점근 공식 기반의 $O(n)$ 알고리즘(헤일·타운센드 계열)을 쓴다. 또 가중치 대부분이 쓸모없을 만큼 작다는 것은 노드 수를 늘려도 꼬리 쪽 표본은 거의 기여하지 않는다는 뜻이기도 하다.

정규분포 기댓값은 변수 변환 하나로 이 규칙이 된다. $X \sim N(\mu, \sigma^2)$ 이면

$$E[f(X)] \approx \frac{1}{\sqrt\pi}\sum_{i=1}^n w_i\,f\big(\mu + \sqrt2\,\sigma x_i\big)$$

이고, 확률론자 판 hermegauss 를 쓰면 $\sqrt2$ 없이 가중치를 $\sqrt{2\pi}$ 로 나누면 된다. 불확실성 정량화에서 확률적 배치(stochastic collocation)의 1차원 부품이 바로 이것이다.

매끄럽지 않은 피적분함수는 손해다. $X \sim N(0,1)$ 에 대해 $E[\cos X] = e^{-1/2}$ 는 $n = 10$ 에서 오차 $1.2\times10^{-12}$, $n = 20$ 에서 기계 정밀도로 수렴하지만, $E\lvert X\rvert = \sqrt{2/\pi}$ 는 상대오차가 $n = 10, 20, 40, 80$ 에서 4.3%, 2.1%, 1.0%, 0.52% — 노드를 두 배로 해야 오차가 겨우 반이 되는 $O(1/n)$ 수렴이다. 원점의 꺾임 하나가 지수 수렴을 대수 수렴으로 끌어내린다. 옵션 수익구조 $\max(X - K, 0)$, 문턱이 있는 고장 판정 같은 피적분함수에서 가우스-에르미트를 그대로 쓰면 이 꼴이 된다 — 꺾이는 점에서 구간을 나누거나 다른 방법을 쓴다.³

6. 확률과 통계에서

• 다항식 카오스. 위너(1938)의 동질 카오스는 정규 입력의 함수를 $He_n$ 으로 전개한 것이다. 시우·카르니아다키스(2002)가 이것을 위너-아스키 체계로 일반화해 입력 분포마다 짝이 맞는 계열(균등-르장드르, 감마-라게르, 베타-야코비)을 쓰게 했다. 자세한 것은 다항식 카오스 전개.
• 에지워스·그램-샤를리에 전개. 정규에 가까운 분포의 밀도를 $\varphi(x)\big[1 + \tfrac{\kappa_3}{6}He_3(x) + \tfrac{\kappa_4}{24}He_4(x) + \cdots\big]$ 처럼 정규 밀도 × 에르미트 다항식 급수로 보정한다($\kappa$ 는 표준화 누적량). 꼬리에서 밀도가 음수가 될 수 있다는 고질병이 있어 꼬리확률 추정에는 조심해야 한다.
• 정규 확률변수의 비선형 함수. $f(X) = \sum_n \frac{c_n}{n!}He_n(X)$, $c_n = E[f(X)He_n(X)]$ 로 쓰면 상관된 정규 쌍 $(X, Y)$ 에 대해 $E[f(X)g(Y)] = \sum_n \frac{c_nd_n}{n!}\rho^n$ 이 된다(멜러 공식의 따름정리). 신호처리에서 비선형 검출기를 통과한 가우스 잡음의 자기상관을 구할 때 쓰는 고전 도구다.

7. 관련 문서

• 직교다항식 · 르장드르 다항식 · 체비쇼프 다항식 · 라게르 다항식 · 클렌쇼 점화식
• 수치적분 · 골럽-웰시 알고리즘 · 다항식 카오스 전개 · 불확실성 정량화 · 스펙트럴 방법
• 슈뢰딩거 방정식 · 양자 조화 진동자 · 푸리에 변환 · 정규 분포

8. Footnotes

1. 논문 두 편의 계수를 섞어 쓰다가 $2^{n/2}$ 배씩 틀리는 사고는 이 바닥의 통과의례다. 함수 이름에 norm 이나 _e 가 붙어 있는지 먼저 확인하자. ↩

2. 푸리에 변환을 네 번 하면 원래 함수로 돌아오므로($\mathcal F^4 = I$) 고유값은 1 의 네제곱근뿐이다. 에르미트 함수가 그 네 고유공간에 $n \bmod 4$ 로 깔끔하게 나눠 들어간다. 「분수 푸리에 변환」은 이 고유값에 분수 지수를 씌워 정의하는데, 광학에서는 그걸 렌즈 몇 장으로 실제로 만든다. ↩

3. 구적 규칙은 피적분함수가 다항식과 얼마나 닮았는지로 성능이 갈린다. 절댓값 함수는 다항식 입장에서 「한 점만 빼면 완벽한 직선 두 개」라 오히려 제일 싫어하는 부류다. 노드를 80개 넣고 0.5% 오차를 보면 현타가 온다. ↩