르베그 상수

1. 개요

르베그 상수(Lebesgue constant)¹ $\Lambda_n$ 은 절점 $x_0,\dots,x_n$ 에서의 다항식 보간 연산자 $I_n$ 이 최대노름으로 입력을 최대 몇 배까지 키우는가를 나타내는 수다. 라그랑주 기저 $\ell_j$ 로

$$\lambda_n(x) = \sum_{j=0}^{n} |\ell_j(x)|, \qquad \Lambda_n = \max_{x\in[-1,1]} \lambda_n(x) = \|I_n\|_\infty$$

라 쓰고, $\lambda_n$ 을 르베그 함수라 부른다. 그 의미는 두 가지 부등식에 다 들어 있다.

$$\|f - I_n f\|_\infty \le (1 + \Lambda_n)\,\|f - p_n^*\|_\infty, \qquad \|I_n(f+\delta)-I_n f\|_\infty \le \Lambda_n \|\delta\|_\infty$$

왼쪽은 “보간은 최량 근사 $p_n^*$ 보다 최대 $1+\Lambda_n$ 배 나쁘다”, 오른쪽은 “데이터의 잡음·반올림이 최대 $\Lambda_n$ 배 증폭된다” 다. 즉 르베그 상수는 근사 손실 계수이자 조건수다.

등간격과 체비쇼프 절점의 실측 비교, 그리고 등간격 $n=40$ 에서 $4.7\times10^9$ 이 반올림을 어떻게 키우는지는 보간과 근사에, 등간격 발산이 정확히 어디서 시작되는가는 룽게 현상에 있다. 이 문서는 그다음 질문 — 왜 로그인가, 로그보다 더 잘할 수는 없는가, 최적 절점은 무엇인가, 다차원에서는 어떻게 되는가 — 를 다룬다.

2. 수치로 본 성장

아래는 $[-1,1]$ 을 20만 점으로 훑어 르베그 함수의 최댓값을 직접 잰 값이다. “1종” 은 $T_{n+1}$ 의 근(가우스-체비쇼프), “2종” 은 $T_n$ 의 극값점(체비쇼프-로바토), “확장” 은 1종 절점을 양 끝이 $\pm1$ 에 오도록 늘린 것이다.

$n$	등간격	1종	2종	확장	$\frac2\pi\ln(n+1)+0.9625$	$\frac2\pi\ln(n+1)+0.5213$
5	3.11	2.1044	1.9889	1.6851	2.1032	1.6620
10	29.9	2.4894	2.4210	2.0687	2.4890	2.0478
20	1.10×10⁴	2.9008	2.8678	2.4792	2.9007	2.4595
40	—	3.3267	—	—	3.3266	2.8854
100	—	3.9006	—	—	3.9006	3.4594

1종 체비쇼프는 점근식과 $n=100$ 에서 소수 넷째 자리까지 일치한다. 확장 체비쇼프는 맨 오른쪽 열(최적 절점의 점근식)보다 약 0.02 위에 있다. 등간격은 $n=20$ 에서 이미 만 단위이고, 점근식 $2^{n+1}/(e\,n\ln n)$ 은 $n=10,20$ 에서 32.7·1.29×10⁴ 로 실측과 같은 자릿수다(비는 $n$ 이 커질수록 1에 다가간다).

3. 왜 로그인가 — 끝점에서 한 줄 유도

1종 체비쇼프 절점 $x_j = \cos\theta_j$, $\theta_j = \frac{(2j+1)\pi}{2(n+1)}$ 에서 라그랑주 기저는 $\ell_j(x) = \frac{T_{n+1}(x)}{(x-x_j)\,T_{n+1}'(x_j)}$ 이다. $x=1$ 을 넣으면 $T_{n+1}(1) = 1$, $T'_{n+1}(x_j) = (n+1)(-1)^j/\sin\theta_j$ 이므로

$$|\ell_j(1)| = \frac{\sin\theta_j}{(n+1)(1-\cos\theta_j)} = \frac{1}{n+1}\cot\frac{\theta_j}{2}, \qquad \lambda_n(1) = \frac{1}{n+1}\sum_{j=0}^{n}\cot\frac{\theta_j}{2}$$

가 된다. $\theta_j$ 의 간격이 $\pi/(n+1)$ 이니 이 합은 $\frac1\pi\int\cot\frac\theta2\,d\theta = \frac2\pi\ln\sin\frac\theta2$ 의 리만 합이고, 하한 $\theta_0 \approx \frac{\pi}{2(n+1)}$ 근처에서 $\cot$ 이 $1/\theta$ 처럼 발산하는 부분이 정확히 $\frac{2}{\pi}\ln n$ 을 만든다. $n=10$ 에서 이 합을 계산하면 2.489430 으로, 위 표의 실측 최댓값 2.4894 와 같다 — 1종 체비쇼프의 르베그 함수는 양 끝점에서 최대다.

로그 성장은 체비쇼프 절점만의 운명이 아니다. 에르되시(1961)는 어떤 절점 배치든 $\Lambda_n \ge \frac2\pi\ln n - C$ 임을 보였다. 그리고 바나흐-슈타인하우스 정리(균등 유계성 원리)를 여기에 걸면 파버(1914)의 정리가 나온다 — 어떤 절점 열을 고르든, 그 보간이 균등수렴하지 않는 연속함수가 존재한다. 연속성만으로는 부족하고 매끄러움이 조금은 있어야 한다는 뜻이다. 반대로 체비쇼프 절점에서는 $\omega(f,\delta)\ln\delta \to 0$ (디니-립시츠 조건)만 만족하면 수렴한다. 로그 하나를 이길 만큼의 매끄러움이면 충분하다는 것이다.

푸리에 급수의 부분합도 같은 구조다. 디리클레 핵의 $L^1$ 노름이 $\frac{4}{\pi^2}\ln n + O(1)$ 로 자라서, 연속함수의 푸리에 급수가 발산할 수 있다. 다항식 보간과 푸리에 절단은 “선형 투영은 로그를 피할 수 없다” 는 같은 정리의 두 얼굴이다.²

4. 최적 절점 — 베른슈타인·에르되시 추측

로그를 피할 수 없다면 다음 질문은 상수항이다. $\Lambda_n$ 을 최소로 만드는 절점은 무엇인가?

르베그 함수는 절점에서 정확히 1이고, 이웃한 두 절점 사이마다 혹 하나씩 솟는다. 1종 체비쇼프에서 $n=10$ 의 경우 내부 혹들의 높이는 2.0492.069 로 거의 같은데, 양 끝 바깥(마지막 절점과 $\pm1$ 사이)의 혹만 2.489 로 튀어나와 있다. 그래서 절점 전체를 $1/\cos\frac{\pi}{2(n+1)}$ 배 늘려 끝 절점을 $\pm1$ 에 놓으면(확장 체비쇼프) 바깥 혹이 사라지고 $\Lambda_{10}$ 이 2.069 로 떨어진다. 남은 내부 혹들의 높이 차는 1% 남짓이다. 반면 2종 체비쇼프는 내부 혹이 1.322.42 로 들쭉날쭉하다.

베른슈타인(1931)은 “모든 혹의 높이가 같아지는 배치가 최적” 이라고 추측했고, 에르되시는 거기에 유일성과 “최소인 혹의 최대화” 쌍대 성질을 더했다. 이 두 추측은 1978년 킬고어, 그리고 드 부어·핑쿠스가 독립적으로 증명했다. 체비쇼프 교대 정리가 최량 근사를 “오차가 같은 높이로 교대한다” 로 특징짓는 것과 같은 모양의 결과다.

그러나 이 최적 절점은 닫힌꼴이 없고 계산이 번거롭다. 점근값도 상수 하나 차이다. 베르테시가 정리한 결과로 최적값은 $\frac{2}{\pi}\big(\ln(n+1) + \gamma + \ln\frac{4}{\pi}\big) + o(1)$, 상수항 $\frac2\pi(\gamma+\ln\frac4\pi) = 0.5213$ 이고, 1종 체비쇼프의 상수항은 $\frac2\pi(\gamma+\ln\frac8\pi) = 0.9625$ 다. 둘의 차이는 $\frac2\pi\ln2 = 0.441$ — 체비쇼프 절점으로 손해 보는 것은 증폭률 0.44 가 전부다. 그래서 실무에서는 아무도 최적 절점을 쓰지 않는다. 확장 체비쇼프나 체비쇼프-로바토면 충분하고, 후자는 고속 푸리에 변환으로 계수를 구할 수 있다는 결정적 이점까지 있다.³

5. 다른 보간 방식의 르베그 상수

르베그 상수는 다항식 보간 전용 개념이 아니라 선형 근사 연산자의 노름이면 무엇이든 정의된다.

• 바리센트릭 유리 보간(플로터-호만). 등간격 절점에서도 혼합 차수 $d$ 에 대해 대략 $2^{d}\ln n$ 꼴로만 자란다. 등간격 데이터밖에 없을 때의 현실적 탈출구다(바리센트릭 보간).
• 3차 스플라인 보간. 등간격 격자에서 르베그 상수가 $n$ 에 무관하게 유계다. 수렴 차수를 4차에서 멈추는 대가로 증폭을 상수로 묶는 거래다.
• 최소제곱 근사. $m$ 개 등간격 점에 차수 $p$ 를 맞출 때 $p \lesssim \sqrt m$ 정도면 노름이 유계로 유지된다. 표본을 차수의 제곱만큼 깔아야 등간격에서도 안전하다는 경험칙의 근거다.

6. 다차원 — 로그가 제곱이 된다

정사각형이나 삼각형 위의 보간에서는 “좋은 절점” 자체가 연구 주제다. 차수 $n$ 다항식 공간의 차원을 $N$ 이라 하면,

• 페케테 점(반데르몽드 행렬식의 절댓값을 최대화하는 점)에서는 크라머 공식에 의해 모든 $|\ell_j| \le 1$ 이 되어 $\Lambda \le N$ 이 자명하게 성립한다. 실제로는 그보다 훨씬 작지만, 계산이 비싼 비볼록 최적화다.
• 파두아 점(2005~2006, 보스·칼리아리·데마르키·비아넬로·쉬)은 정사각형에서 $\Lambda = O(\ln^2 n)$ 을 갖는 명시적 단일해(unisolvent) 절점으로 처음 알려진 예다. 1차원 체비쇼프의 로그가 제곱으로 바뀌는 것이 2차원의 대가다.
• 레야 점은 앞 점들을 고정하고 하나씩 덧붙이는 탐욕적 배치라 중첩된다. 차수를 올려 가며 적응적으로 쓰기 좋고, 르베그 상수는 아지수적으로 자란다.

스펙트럴 요소법이 사각형 요소에 GLL 절점의 텐서곱을 쓰는 것은 텐서곱이면 르베그 상수가 1차원 값의 곱(로그의 제곱)으로 묶이기 때문이다. 삼각형·사면체 요소는 텐서곱이 안 되니 와버튼 절점처럼 르베그 상수를 수치적으로 줄인 배치를 따로 쓴다.

7. 실무에서 읽는 법

1. $\Lambda_n$ 이 $10^k$ 이면 유효숫자 $k$ 자리를 잃는다. 배정밀도 16자리에서 등간격 $n=40$ 은 7자리가 남는다. 측정 데이터의 잡음은 반올림보다 훨씬 크니 실측 데이터 보간에서는 훨씬 빨리 끝난다.
2. 절점을 고를 수 있으면 체비쇼프. 고를 수 없으면(등간격 계측) 고차 보간을 포기하고 스플라인·최소제곱·유리 보간으로 간다.
3. 오차 추정에 $1+\Lambda_n$ 을 곱하라. 최량 근사 오차를 알면 보간 오차 상한이 바로 나온다. 체비쇼프 $n=100$ 이면 많아야 4.9배다.
4. 고차 요소의 절점 배치를 확인하라. 고차 유한요소 코드에서 등간격 절점을 그대로 쓰면 $p \ge 6$ 근처부터 조건수와 정확도가 같이 무너진다.

8. 관련 문서

• 보간과 근사 · 룽게 현상 · 체비쇼프 다항식 · 바리센트릭 보간
• 체비쇼프 교대 정리 · 레머즈 알고리즘 · 스톤-바이어슈트라스 정리
• 반데르몽드 행렬 · 뉴턴 보간 · 스펙트럴 요소법
• 페케테 점 · 파두아 점 · 바나흐-슈타인하우스 정리

9. Footnotes

1. 르베그 적분의 그 앙리 르베그다. 20세기 초 푸리에 급수 부분합의 노름을 다루며 이 양이 등장했고, 이름이 보간 쪽에도 그대로 붙었다. 적분론 문서에서 보던 이름을 수치해석에서 다시 만나면 반갑다. ↩

2. 정확히는 연속함수 공간에서 차수 $n$ 다항식 공간으로 가는 모든 유계 선형 투영의 노름이 $\ln n$ 꼴 이상이라는 결과(로진스키·하를시예비치 계열)가 있다. 즉 로그는 보간의 실력 부족이 아니라 선형성의 세금이다. ↩

3. 최적 절점을 구하느라 반나절을 갈아넣으면 증폭률 0.44를 아낀다. 갓 박사과정생이 한 번씩 해 보고 조용히 체비쇼프로 돌아가는 코스다. ↩