코시-슈바르츠 부등식

1. 개요

코시-슈바르츠 부등식 Cauchy–Schwarz inequality
내용	$\lvert\langle u,v\rangle\rvert\le\lVert u\rVert\,\lVert v\rVert$
등호	$u,v$ 가 일차종속(평행)일 때만
필요한 것	반정부호 내적 하나 (차원·완비성 불필요)
이름	코시 (1821, 합) · 부냐코프스키 (1859, 적분) · 슈바르츠 (1888)
쓰이는 곳	상관계수 범위, 유한요소 오차 추정, 크라메르-라오, 불확정성 원리

해석학에서 막히면 코시-슈바르츠를 써 보라. 그래도 막히면 한 번 더 써 보라.

코시-슈바르츠 부등식(Cauchy–Schwarz inequality)¹은 내적 공간의 임의의 두 벡터 $u$, $v$ 에 대해

$$|\langle u, v\rangle| \le \|u\|\,\|v\|, \qquad \|u\| = \sqrt{\langle u, u\rangle}$$

가 성립하고, 등호는 $u$ 와 $v$ 가 일차종속일 때만 성립한다는 정리다. $\mathbb{R}^n$ 에서는 $\big(\sum a_ib_i\big)^2 \le \sum a_i^2\sum b_i^2$, 함수 공간에서는 $\big(\int fg\big)^2 \le \int f^2\int g^2$, 확률변수에서는 $(E[XY])^2 \le E[X^2]E[Y^2]$ 이다. 같은 한 줄이 세 분야의 서로 다른 얼굴로 나온다.

기하학적으로는 「두 벡터 사이 각의 코사인이 $[-1, 1]$ 안에 있다」는 말이고, 이것이 임의 차원(무한 차원 포함)에서 「각도」를 정의할 수 있게 해 준다. 수치해석·통계에서 이 부등식이 쉬지 않고 나오는 이유는 두 가지다. 미지의 내적을 알려진 노름 둘로 떼어 내는 도구이고, 등호 조건이 최적성(무엇이 한계를 달성하는가)을 알려 주기 때문이다.

2. 증명 — 판별식 하나

실수 내적 공간에서 $v \ne 0$ 이라 하자. 모든 실수 $t$ 에 대해

$$0 \le \|u - tv\|^2 = \|u\|^2 - 2t\langle u, v\rangle + t^2\|v\|^2$$

이다. $t$ 에 대한 이차식이 음이 아니려면 판별식이 0 이하여야 하므로 $\langle u, v\rangle^2 \le \|u\|^2\|v\|^2$. 등호면 이차식이 실근 $t^*$ 를 가지고 $u = t^*v$ 다. 최적의 $t^* = \langle u, v\rangle/\|v\|^2$ 를 넣으면 $u - t^*v$ 가 $v$ 에 수직인 성분, 즉 직교 사영의 잔차라는 게 드러난다 — 부등식의 결손 $\|u\|^2\|v\|^2 - \langle u, v\rangle^2$ 은 $\|v\|^2$ 곱하기 그 잔차의 제곱이다. 이 양이 바로 2×2 그람 행렬의 행렬식이고, 그래서 코시-슈바르츠는 「$\det G \ge 0$」의 $n = 2$ 판이다.

다른 증명도 많다. 라그랑주 항등식 $\sum a_i^2\sum b_i^2 - (\sum a_ib_i)^2 = \sum_{i<j}(a_ib_j - a_jb_i)^2$ 은 결손을 제곱합으로 직접 보여 주고($\mathbb{R}^3$ 이면 외적의 노름 제곱), 산술-기하 평균 부등식 $ab \le (a^2 + b^2)/2$ 를 정규화된 벡터에 쓰는 한 줄 증명도 있다. 스틸의 『코시-슈바르츠 마스터 클래스』가 이 갈래를 책 한 권으로 정리했다.

필요한 가정이 거의 없다는 것도 기억할 만하다. 위 증명은 차원도 완비성도 안 쓰고, 심지어 $\langle u, u\rangle = 0$ 인 0 아닌 $u$ 가 있는 반정부호 형식에서도 성립한다. 공분산 $\mathrm{Cov}(X, Y)$ 는 상수 차이를 구분 못 하는 반정부호 형식이지만 $|\mathrm{Cov}(X, Y)| \le \sigma_X\sigma_Y$ 가 그대로 성립하는 이유다.

3. 통계 — 상관계수와 분산 하한

상관계수의 범위. $X - EX$, $Y - EY$ 에 적용하면 $|\rho_{XY}| \le 1$ 이고, $|\rho| = 1$ 은 $Y$ 가 $X$ 의 일차함수일 때뿐이다. 「상관계수 1 = 완벽한 선형 관계」라는 해석의 근거가 등호 조건이다. 거꾸로 $\rho = 0$ 은 선형 관계가 없다는 것뿐, 독립과는 다르다.

크라메르-라오 하한. 불편추정량 $T$ 와 점수함수 $S = \partial_\theta\log f$ 의 공분산은 1 이다. 코시-슈바르츠로 $1 = \mathrm{Cov}(T, S)^2 \le \mathrm{Var}(T)\,\mathrm{Var}(S)$ 이고, $\mathrm{Var}(S)$ 가 피셔 정보이므로 $\mathrm{Var}(T) \ge 1/I(\theta)$ — 크라메르-라오 하한의 증명 전체가 이 한 줄이다. 등호 조건(「$T$ 가 $S$ 의 일차함수」)이 곧 지수족에서만 효율적 추정량이 존재한다는 결과다.

불확정성 원리. 양자역학의 로버트슨 부등식 $\sigma_A\sigma_B \ge \tfrac12|\langle[A, B]\rangle|$ 도 상태 벡터에 대한 코시-슈바르츠다. 위치·운동량에 넣으면 하이젠베르크의 $\sigma_x\sigma_p \ge \hbar/2$ 이고, 등호를 달성하는 상태가 가우스 파속(결맞음 상태)이다. 신호처리의 시간-주파수 불확정성(가보르 한계)도 같은 계산이다.²

4. 수치해석 — 오차 추정의 접착제

유한요소 오차 추정. 쌍선형형식 $a(\cdot, \cdot)$ 이 연속 $|a(u, v)| \le M\|u\|\|v\|$ 이고 강압 $a(v, v) \ge \alpha\|v\|^2$ 이면, 갤러킨 직교성 $a(u - u_h, v_h) = 0$ 에서

$$\alpha\|u - u_h\|^2 \le a(u - u_h, u - v_h) \le M\|u - u_h\|\,\|u - v_h\|$$

가 되어 세아 보조정리 $\|u - u_h\| \le (M/\alpha)\inf_{v_h}\|u - v_h\|$ 가 나온다. 둘째 부등식이 코시-슈바르츠(연속성 상수 $M$ 의 근원)다. $a$ 가 대칭이면 그 자체가 에너지 내적이라 $M = \alpha = 1$ 로 두고 「에너지 노름에서 갤러킨 해가 최적 근사」라는 더 강한 결론을 얻는다. 유한요소법의 거의 모든 사전(a priori) 오차 추정이 「코시-슈바르츠 + 보간 오차」의 조합이다.

켤레기울기법의 수렴. 켤레기울기법의 $A$-노름 오차 상한, 푸앵카레 부등식으로 가는 1차원 증명($u(x) = \int_0^x u'$ 에 코시-슈바르츠를 쓰면 $|u(x)|^2 \le x\int|u'|^2$), 경사하강법의 하강 방향 판정($\nabla f\cdot d < 0$ 이면 하강이고 가장 가파른 방향은 등호 조건이 주는 $d = -\nabla f$) 모두 같은 부등식이다.

적분 오차의 분리. $\big|\int_a^b f(x)e(x)\,dx\big| \le \|f\|_{L^2}\|e\|_{L^2}$ 처럼, 모르는 함수와 아는 오차의 곱을 노름 둘로 떼어 내는 것이 「추정」의 기본 동작이다. 대가는 등호 조건이다 — 두 함수가 평행하지 않으면 상한이 느슨하다. 상한이 너무 비관적이면 그 원인은 대개 여기 있다.

5. 부동소수점 — 계산된 코사인은 1 을 넘는다

수학적으로 $|\cos\theta| \le 1$ 이지만 계산된 값은 그렇지 않다. 길이 100 의 무작위 벡터 $x$ 와 그 배수 $y = cx$ 에 대해 $x\cdot y/(\|x\|\|y\|)$ 를 배정밀도로 10만 번 계산하면 30.8% 가 1 을 초과했다(최대 $1 + 8.9\times10^{-16}$). 그대로 acos 에 넣으면 NaN 이다. 「계산된 코사인을 $[-1, 1]$ 로 자른다」는 방어 코드가 기하 라이브러리에 꼭 있는 이유다.

자르는 것으로 NaN 은 막지만 작은 각도의 정확도는 못 살린다. 참 각도 $10^{-8}$ 라디안인 두 단위벡터에서 $\arccos(\cos\theta)$ 는 0 을 돌려준다($\cos 10^{-8} = 1 - 5\times10^{-17}$ 이 반올림으로 정확히 1 이 된다). 대신

$$\theta = \operatorname{atan2}\big(\|u \times v\|,\ u\cdot v\big) \quad\text{또는}\quad \theta = 2\arctan\frac{\|\hat u - \hat v\|}{\|\hat u + \hat v\|}$$

를 쓰면 둘 다 $10^{-8}$ 을 정확히 돌려준다. 뒤의 식은 임의 차원에서 쓸 수 있고 카한이 권한 형태다.³

통계 쪽의 같은 함정이 한 번 통과(one-pass) 분산·상관 공식이다. $n\sum x_iy_i - \sum x_i\sum y_i$ 같은 교과서 공식은 큰 수의 뺄셈이라, 평균이 $10^8$ 이고 표준편차가 1 인 자료에서는 분산 항 하나가 0 이하로 떨어져 상관계수가 NaN 이 됐다($10^4$ 오프셋에선 유효숫자 6자리, $10^6$ 에선 4자리만 맞았다). 두 번 통과(평균을 먼저 빼는) 공식은 같은 자료에서 세 경우 모두 0.99978~0.99980 의 안정된 값을 냈고, 한 번에 흘려야 하는 자료라면 웰퍼드식 갱신이 표준 처방이다(챈·골럽·르베크 1983). 코시-슈바르츠가 보장하는 $|r| \le 1$ 은 정확한 산술의 성질이지 계산 결과의 성질이 아니다.

6. 일반화

• 횔더 부등식. $|\langle f, g\rangle| \le \|f\|_p\|g\|_q$, $1/p + 1/q = 1$. $p = q = 2$ 가 코시-슈바르츠다. 젠센 부등식에서 나오는 볼록성 부등식 가족의 일원이다.
• 삼각 부등식. $\|u + v\|^2 = \|u\|^2 + 2\langle u, v\rangle + \|v\|^2 \le (\|u\| + \|v\|)^2$ — 내적에서 유도된 노름이 진짜 노름이라는 증명이 코시-슈바르츠를 쓴다.
• 행렬판. 양의 준정부호 블록 행렬 $\begin{pmatrix} A & B\\ B^\top & C\end{pmatrix} \succeq 0$ 이면 $|x^\top By|^2 \le (x^\top Ax)(y^\top Cy)$. 슈어 보수 $C - B^\top A^{-1}B \succeq 0$ 와 같은 내용이다.
• 연산자판. 양의 연산자 $A$ 에 대해 $|\langle Ax, y\rangle|^2 \le \langle Ax, x\rangle\langle Ay, y\rangle$. 에너지 노름 위의 코시-슈바르츠로, 위 FEM 논증의 대칭판이 이것이다.

7. 관련 문서

• 그람 행렬 · 젠센 부등식 · 횔더 부등식 · 힐베르트 공간
• 크라메르-라오 하한 · 피셔 정보 · 불확정성 원리
• 유한요소법 · 세아 보조정리 · 푸앵카레 부등식 · 켤레기울기법 · 슈어 보수
• 부동소수점 연산 · 혼합 정밀도

8. Footnotes

1. 러시아 쪽 교과서는 「부냐코프스키 부등식」이라 부른다. 적분판을 슈바르츠보다 30년 먼저 낸 사람이 부냐코프스키이기 때문이다. 이름에서 빠진 사람이 먼저였다는 건 수학사의 국룰. ↩

2. 물리학과는 「불확정성 원리」로, 통계학과는 「크라메르-라오」로, 수학과는 「코시-슈바르츠」로 배운다. 세 학과가 같은 판별식을 서로 다른 학기에 세 번 배우는 셈이다. ↩

3. 카한의 결론은 대략 「반올림 오차를 생각 없이 평가하는 것은 헛되다」였다. 「코사인이 1 을 넘을 리 없다」는 생각이 바로 그 생각 없음이다. ↩