직교다항식

수치해석 계산물리 마지막 수정: 2026-07-12 04:08:22

1. 개요[편집]

직교다항식 Orthogonal Polynomials
분야	수치해석 × 근사이론 × 계산물리
정의 도구	가중함수 내적
대표 계열	르장드르 · 체비쇼프 · 에르미트 · 라게르
핵심 성질	3항 점화식 (three-term recurrence)
주요 응용	가우스 구적, 스펙트럴 방법

다항식도 벡터처럼 직교할 수 있다. 내적만 잘 정의하면.

직교다항식(orthogonal polynomials)은 어떤 구간에서 가중함수를 곁들인 내적에 대해 서로 직교하는 다항식들의 열이다. 차수가 $0, 1, 2, \dots$ 로 하나씩 올라가는 다항식 $p_0, p_1, p_2, \dots$ 가 있어, 서로 다른 두 개를 뽑아 내적하면 항상 0이 되도록 만든 것. 벡터의 직교기저를 함수의 세계로 옮겨온 개념이다.

이게 왜 대단하냐면, 직교기저는 계산을 어마어마하게 편하게 만들기 때문이다. 함수를 직교다항식으로 전개하면 계수를 하나씩 독립적으로 뽑아낼 수 있고(기저함수 참고), 적분·미분·근사가 죄다 깔끔해진다. 수치적분의 최강 무기인 가우스 구적, 스펙트럴 방법의 정확도가 다 여기서 나온다.

2. 가중 내적과 직교성[편집]

두 함수 $f, g$ 의 내적을 구간 $[a, b]$ 와 가중함수 $w(x) \ge 0$ 에 대해 다음과 같이 정의한다.

\langle f, g \rangle = \int_a^b f(x)\, g(x)\, w(x)\, dx

이 내적이 0이면 두 함수가 “직교”한다고 말한다. 직교다항식 열 $\{p_n\}$ 은 다음을 만족한다.

\langle p_m, p_n \rangle = \int_a^b p_m(x)\, p_n(x)\, w(x)\, dx = h_n \, \delta_{mn}

즉 서로 다른 차수( $m \ne n$ )면 0, 같으면 어떤 양수 $h_n$ . 여기서 결정적인 사실 하나 — 가중함수 $w(x)$ 와 구간 $[a,b]$ 를 정하는 순간, 직교다항식 열은 (상수배를 제외하면) 유일하게 결정된다. 그래서 “어떤 가중함수를 골랐느냐”가 곧 “어떤 직교다항식 계열이냐”를 정한다.¹

3. 고전적 계열들[편집]

가중함수와 구간의 선택에 따라 이름난 계열들이 갈린다.

르장드르(Legendre) — 구간 $[-1, 1]$ , 가중함수 $w(x) = 1$ . 가장 기본. 구면조화함수, 유한요소법의 고차 기저, 다중극 전개에 등장한다.
체비쇼프(Chebyshev) — 구간 $[-1, 1]$ , 가중함수 $w(x) = 1/\sqrt{1-x^2}$ . $T_n(\cos\theta) = \cos(n\theta)$ 라는 마법 같은 성질 덕에 최소최대(minimax) 근사와 스펙트럴 방법의 총아다.
에르미트(Hermite) — 구간 $(-\infty, \infty)$ , 가중함수 $w(x) = e^{-x^2}$ . 양자역학의 조화진동자 파동함수가 정확히 에르미트 다항식 × 가우시안이다.
라게르(Laguerre) — 구간 $[0, \infty)$ , 가중함수 $w(x) = e^{-x}$ . 수소원자의 지름 방향 파동함수에 등장.

구간이 무한대로 뻗는 에르미트·라게르가 계산물리에서 특히 사랑받는 이유는, 물리계의 파동함수가 무한 공간에서 지수적으로 감쇠하는 꼴이라 가중함수의 모양과 궁합이 딱 맞기 때문이다.

4. 3항 점화식[편집]

직교다항식의 가장 실용적인 보물은 3항 점화식(three-term recurrence)이다. 모든 직교다항식 계열은 예외 없이 다음 형태의 점화식을 만족한다.

p_{n+1}(x) = (a_n x + b_n)\, p_n(x) - c_n\, p_{n-1}(x)

바로 앞의 두 항만 알면 다음 항을 얻는다는 뜻. 덕분에 고차 다항식을 계수 표 없이도 안정적으로, $O(n)$ 에 생성할 수 있다. 예를 들어 체비쇼프는 $T_{n+1}(x) = 2x\,T_n(x) - T_{n-1}(x)$ 로, 계수가 정수라 외우기도 쉽다.² 이 점화식은 단순히 계산 편의를 넘어, 뒤에 나올 가우스 구적의 노드를 구하는 핵심 재료이기도 하다.

5. 가우스 구적으로의 응용[편집]

직교다항식이 수치적분에서 빛을 발하는 곳이 가우스 구적(Gaussian quadrature)이다. $n$ 개의 점에서 함숫값을 평가해 적분을 근사하는데, 노드(node)를 $n$ 차 직교다항식의 근으로 잡으면 마법이 일어난다 — $2n-1$ 차 이하의 다항식을 정확히 적분한다.

\int_a^b f(x)\, w(x)\, dx \approx \sum_{i=1}^{n} w_i\, f(x_i)

같은 점 개수로 사다리꼴 공식은 1차, 심프슨은 3차까지밖에 정확하지 않은데, 가우스 구적은 $2n-1$ 차까지 정확하다. 점 개수 대비 정확도가 압도적이라, 스펙트럴 방법이나 유한요소법의 요소 적분에서 표준으로 쓰인다. 노드 $x_i$ 는 직교다항식의 근이고, 가중치 $w_i$ 는 3항 점화식으로 만든 야코비(Jacobi) 행렬의 고유벡터에서 얻는다 — 고유값 문제로 환원되는 셈.³

6. 스펙트럴 방법과 근사[편집]

편미분방정식을 풀 때 해를 직교다항식(또는 삼각함수)의 급수로 전개하는 것이 스펙트럴 방법이다. 매끄러운 해에 대해서는 오차가 차수에 따라 지수적으로 감소하는 스펙트럴 정확도를 보인다. 유한한 구간에서는 주로 체비쇼프·르장드르 기저를, 주기 문제에서는 푸리에(삼각함수) 기저를 쓴다.

근사이론에서도 직교다항식은 핵심이다. 주어진 함수의 최적 $L^2$ 근사는 직교다항식 계수의 절단으로 즉시 얻어지고(보간과 근사 참고), 체비쇼프 근사는 균등 노름(최대 오차) 관점에서 거의 최적이라 함수 라이브러리 내부(sin, exp 등의 계산)에서 조용히 일하고 있다.

7. 관련 문서[편집]

임의의 가중함수에서 출발해 $1, x, x^2, \dots$ 에 그람-슈미트 직교화를 돌리면 직교다항식 계열이 뚝딱 나온다. 다만 그람-슈미트는 수치적으로 불안정해서, 실제로는 3항 점화식으로 만드는 게 국룰이다. ↩
체비쇼프 점화식은 하도 예뻐서 코딩 인터뷰에도 나온다. $T_0 = 1$ , $T_1 = x$ 에서 시작해 $2x$ 를 곱하고 앞의 것을 빼면 된다. 삼각함수 항등식 $\cos((n{+}1)\theta) + \cos((n{-}1)\theta) = 2\cos\theta\cos(n\theta)$ 의 다항식 변장이다. ↩
골룹-웰시(Golub–Welsch) 알고리즘. 가우스 구적의 노드와 가중치를 3항 점화식 계수로 만든 대칭 삼중대각 행렬의 고유값 문제로 바꿔 푼다. 직교다항식 → 점화식 → 고유값 문제로 이어지는 이 연결고리가 수치해석의 우아함을 보여준다. ↩