보흐너 정리

수치해석 통계 마지막 수정: 2026-09-05 04:31:07

1. 개요[편집]

보흐너 정리 Bochner's Theorem
발표	Salomon Bochner (1932~33)
진술	연속 양정치 함수 ⟺ 유한 비음 측도의 푸리에 변환
확률 판본	연속 양정치 + φ(0)=1 ⟺ 어떤 확률분포의 특성함수
이산 판본	헤르글로츠 정리 (1911, 격자 위)
일반화	국소콤팩트 아벨군 · 보흐너-민로스 (핵공간)
실용적 귀결	무작위 푸리에 특징 · 공분산 모형의 유효성 판정
주의	양정치성은 차원에 의존한다

“이 유사도 함수, 커널로 써도 되나요?” 이 질문에 답하는 방법이 두 개 있다. 하나는 그람 행렬을 만들어 고유값을 보는 것이고, 다른 하나는 푸리에 변환을 해 보고 음수가 나오는지 보는 것이다. 두 번째가 정리다.

보흐너 정리는 $\mathbb R^d$ 위의 연속 함수 $\varphi$ 가 양정치일 필요충분조건이, 그것이 어떤 유한 비음 보렐 측도 $\mu$ 의 푸리에 변환인 것이라는 정리다.

\varphi(\boldsymbol\delta) \;=\; \int_{\mathbb R^d} e^{\,i\boldsymbol\omega^{\mathsf T}\boldsymbol\delta}\, d\mu(\boldsymbol\omega)

살로몬 보흐너가 1932년 푸리에 적분 강의록에서 정리한 결과이고, 조화해석의 결과로 70년 넘게 존재하다가 2000년대에 커널 기계학습의 이론적 기반으로 다시 발굴됐다.¹

이 정리가 하는 일은 대수적 조건을 해석적 조건으로 번역하는 것이다. 양정치성은 “임의의 유한 개 점에 대해 행렬이 PSD”라는 무한 개의 조건이라 직접 검증할 수 없는데, 정리는 그것을 “푸리에 변환이 비음”이라는 한 번의 계산으로 바꿔 준다. 그리고 그 부산물로, 커널이 확률분포가 되어 샘플링할 수 있게 된다 — 무작위 푸리에 특징 전체가 이 부산물 위에 서 있다.

2. 양정치 함수[편집]

용어부터 정리해야 한다. 함수 $\varphi:\mathbb R^d\to\mathbb C$ 가 양정치(positive definite)라는 것은, 임의의 유한 개 점 $\mathbf x_1,\dots,\mathbf x_n$ 과 임의의 복소 계수 $c_1,\dots,c_n$ 에 대해

\sum_{j=1}^{n}\sum_{k=1}^{n} c_j\,\overline{c_k}\;\varphi(\mathbf x_j-\mathbf x_k)\ \ge\ 0

이 성립한다는 뜻이다. 즉 이동불변 커널 $k(\mathbf x,\mathbf y)=\varphi(\mathbf x-\mathbf y)$ 로 만든 그람 행렬이 어떤 점 배치에 대해서도 PSD여야 한다.

용어 함정이 하나 있다. 해석학에서 “positive definite function”은 위 부등식이 등호를 허용하는 조건이라 선형대수의 “positive semi-definite”에 대응한다. 엄격 부등식을 요구하는 쪽은 보통 “strictly positive definite”라고 따로 부른다. 문헌에서 양정치/양의 준정부호가 뒤섞이는 것은 이 관례 차이 때문이고, 이 문서에서 양정치는 등호를 허용하는 쪽이다.

정의에서 곧바로 나오는 성질 몇 개. $n=1$ 에 $c_1=1$ 을 넣으면 $\varphi(\mathbf 0)\ge0$ . $n=2$ 를 전개하면 $\lvert\varphi(\boldsymbol\delta)\rvert\le\varphi(\mathbf 0)$ 이 나오므로 양정치 함수는 원점에서 최대이고 유계다. 그리고 $\varphi(-\boldsymbol\delta)=\overline{\varphi(\boldsymbol\delta)}$ 이므로 실함수이면 우함수다. 커널이 “가까울수록 크고 멀어지면 줄어드는” 모양이어야 하는 이유가 취향이 아니라 정리라는 것이 여기서 드러난다.

3. 쉬운 방향과 어려운 방향[편집]

한 방향은 한 줄이다. $\varphi$ 가 비음 측도 $\mu$ 의 푸리에 변환이라 하자. 그러면

\sum_{j,k}c_j\overline{c_k}\,\varphi(\mathbf x_j-\mathbf x_k) = \int \sum_{j,k} c_j\overline{c_k}\,e^{\,i\boldsymbol\omega^{\mathsf T}(\mathbf x_j-\mathbf x_k)}\,d\mu = \int \Big\lvert \sum_j c_j\,e^{\,i\boldsymbol\omega^{\mathsf T}\mathbf x_j}\Big\rvert^2 d\mu \ \ge\ 0

이중합이 완전제곱으로 접히는 것이 전부다. 비음 측도를 비음 함수에 적분했으니 결과가 비음이다.

어려운 것은 역방향, 즉 양정치 함수가 주어졌을 때 그런 측도를 만들어 내는 것이다. 표준 증명은 양정치성으로부터 $\int\varphi(\boldsymbol\delta)f(\boldsymbol\delta)\,d\boldsymbol\delta \ge 0$ 꼴의 비음 범함수를 구성하고, 리스-마르코프 표현 정리로 그 범함수를 대표하는 라돈 측도를 꺼내는 것이다. 유한성은 $\mu(\mathbb R^d)=\varphi(\mathbf 0)<\infty$ 에서 나온다.

가정에서 연속성이 어디에 쓰이는지는 짚어 둘 만하다. 연속성이 없으면 정리가 통째로 거짓이다 — 가법적이지만 측정 불가능한 병리적 함수로 반례가 만들어진다. 다행히 조건은 생각보다 약해서 원점에서의 연속성만 있으면 전 구간 연속이 따라오고, 가측성만 가정해도 거의 어디서나 연속 함수와 일치한다. 실무에서 쓰는 커널은 전부 연속이므로 신경 쓸 일이 없다는 것이 결론이지만, “연속을 뺐더니 정리가 죽더라”는 것은 이 정리의 무게가 어디에 있는지 알려 준다.

4. 확률로 읽기[편집]

$\varphi(\mathbf 0)=1$ 로 규격화하면 $\mu$ 는 전체 질량 1인 확률측도가 되고, 그 순간 정리는 이렇게 읽힌다.

연속이고 $\varphi(0)=1$ 인 양정치 함수 = 어떤 확률분포의 특성함수.

확률론 교과서가 특성함수의 성질로 나열하는 것들( $\lvert\varphi\rvert\le1$ , 원점에서 1, 에르미트 대칭)이 사실 양정치성의 귀결이고, 보흐너 정리는 그 성질들이 특성함수를 완전히 특징짓는다고 말한다. 뒤집어 말하면 커널 하나를 고르는 것은 주파수 공간의 확률분포 하나를 고르는 것과 같다.

이 대응이 실무에 주는 것이 두 가지다.

검증. 새 커널을 만들었으면 푸리에 변환을 계산해 음수가 나오는지 본다. 그람 행렬을 무작위로 백 번 만들어 고유값을 보는 것보다 정직하고 결정적이다.
샘플링. $\mu$ 에서 주파수를 뽑을 수 있으면 커널을 몬테카를로로 근사할 수 있다. $k(\mathbf x,\mathbf y)=\mathbb E_{\boldsymbol\omega\sim\mu}[\cos(\boldsymbol\omega^{\mathsf T}(\mathbf x-\mathbf y))]$ 이므로 기댓값을 표본평균으로 치면 그것이 무작위 푸리에 특징이다. 특징 사상의 구체적 형태·분산·수렴률은 그 문서에 있다.

여기서 흔한 오해 하나. 보흐너 정리는 밀도를 주지 않는다. 측도를 준다. $\mu$ 가 절대연속이 아니어도 정리는 참이고, 실제로 순수 이산 측도인 예가 있다. $\varphi(t)=\cos(t)$ 는 $\pm1$ 에 질량 $1/2$ 씩 얹은 두 점 측도의 변환이라 양정치다. 밀도 $p(\boldsymbol\omega)$ 를 전제하고 쓴 논문 수식은 편의상 그런 것이고, 샘플링만 가능하면 밀도 없이도 RFF는 그대로 돌아간다.

5. 커널과 측도의 사전[편집]

커널 $\varphi(\boldsymbol\delta)$	스펙트럼 측도	성격
가우시안 $e^{-\lVert\delta\rVert^2/2\sigma^2}$	$\mathcal N(\mathbf 0,\sigma^{-2}I)$	꼬리가 가장 얇다
라플라시안 $e^{-\lambda\lVert\delta\rVert_1}$	좌표별 독립 코시	꼬리가 두꺼워 고주파가 자주 나옴
마테른 커널 $\nu$	자유도 $2\nu$ 의 다변량 $t$	$\nu\to\infty$ 에서 가우시안
$\cos(\boldsymbol\omega_0^{\mathsf T}\boldsymbol\delta)$	$\pm\boldsymbol\omega_0$ 두 점 원자	밀도가 아예 없음
상수 1	원점의 디랙 측도	계수 1 커널
$\operatorname{sinc}(\lVert\boldsymbol\delta\rVert)$	단위 구면 위 균등 측도 ( $d=3$ )	밀도 없음, 차원 제한 있음

가우시안 ↔ 가우시안이 가장 유명한 짝이고, 폭이 좁은 커널이 넓은 주파수 분포에 대응한다는 반비례가 이 표 전체를 관통한다. 커널이 좁을수록 흉내 내야 할 고주파가 많고, 따라서 RFF가 같은 정확도에 더 많은 특징을 요구한다.

재생 커널 힐베르트 공간 쪽에서 보면 이 표가 더 선명하다. 스펙트럼 밀도 $S(\boldsymbol\omega)$ 는 RKHS 노름 $\lVert f\rVert^2=\int\lvert\hat f\rvert^2/S$ 의 분모이므로, $S$ 가 빨리 죽는 커널은 고주파에 가혹한 벌점을 매긴다. 가우시안 커널의 RKHS가 해석적 함수만 담고 있는 이유가 저 표 첫 줄의 “꼬리가 가장 얇다”에 다 적혀 있다.

6. 차원이 양정치성을 죽인다[편집]

가장 자주 걸려 넘어지는 함정이 이것이다. 양정치성은 함수만의 성질이 아니라 함수와 차원의 성질이다.

$\mathbb R^d$ 에서 양정치이면 $\mathbb R^{d'}$ ( $d'<d$ )에서도 양정치다 — 점들을 부분공간에 놓으면 되니까 자명하다. 문제는 역방향이다. 차원을 올리면 성질이 깨질 수 있다.

삼각 커널 $\max(0,\,1-\lVert\boldsymbol\delta\rVert/a)$ 는 1차원에서 양정치다(푸리에 변환이 페예르 핵, 즉 $\operatorname{sinc}^2$ 꼴이라 비음). 2차원 이상에서는 아니다. 지구통계에서 “선형 모형은 1차원에서만 유효하다”고 가르치는 그 사실이다.
구형(spherical) 모형 $1-\tfrac32(h/a)+\tfrac12(h/a)^3$ 은 $d\le3$ 에서 양정치이고 $d\ge4$ 에서 깨진다. 다행히 지구과학은 3차원을 넘을 일이 없어서 이 모형이 살아남았다.
sinc 커널 $\sin r/r$ 은 $\mathbb R^3$ 단위 구면 위 균등 측도의 특성함수라 $d\le3$ 에서 양정치이고, 그 위 차원에서는 아니다. 신호처리에서 sinc가 이상적 저역통과 필터로 익숙하다고 아무 차원에나 커널로 쓰면 그람 행렬에 음의 고유값이 나온다.
지수 거듭제곱 커널 $\exp(-(r/\ell)^\gamma)$ 는 $0<\gamma\le2$ 에서만 양정치다. $\gamma>2$ 는 어떤 차원에서도 커널이 아니다. “가우시안보다 더 날카롭게 떨어지게 하고 싶어서” 지수를 3으로 올리는 것이 흔한 사고이고, 결과는 학습이 조용히 발산하는 것이다.

여기서 쇤베르크 정리(1938)가 경계선을 그어 준다. 방사 함수 $\varphi(\lVert\mathbf x\rVert)$ 가 모든 차원에서 양정치일 필요충분조건은 $r\mapsto\varphi(\sqrt r)$ 이 완전단조인 것이고, 그것은 정확히 “가우시안들의 스케일 혼합”이라는 말과 같다. 가우시안·마테른·유리이차 커널이 차원 걱정 없이 쓰이는 이유가 전부 이 정리다. 반대로 콤팩트 지지를 원하면 모든 차원에서의 양정치는 포기해야 하고, 그 대신 목표 차원 $d$ 를 정해 두고 그 안에서만 유효한 다항식 커널을 설계하는 것이 벤들란트 함수 계열이다.²

7. 친척 정리들[편집]

보흐너 정리는 혼자 있지 않다. 같은 진술을 정의역만 바꿔 가며 반복한 계보가 있다.

정리	정의역	스펙트럼이 사는 곳
헤르글로츠 (1911)	정수 격자 $\mathbb Z$	원 $[-\pi,\pi]$ 위의 측도
보흐너 (1932)	$\mathbb R^d$	$\mathbb R^d$
보흐너-바일-라이코프	국소콤팩트 아벨군	폰트랴긴 쌍대군
보흐너-민로스	핵공간 (무한차원)	쌍대공간 위의 측도

헤르글로츠 판본이 디지털 신호처리와 시계열의 기반이다. 이산 시각에서 관측한 자기공분산 수열이 양정치라는 것이 곧 스펙트럼 측도의 존재를 보장하고, 주기도(periodogram)와 스펙트럼 추정이 그 위에서 정의된다. 보흐너-민로스는 무한차원에서 특성범함수로부터 측도를 구성하는 정리라, 백색소음 측도나 가우시안 프로세스의 존재를 함수공간 위에서 정당화할 때 등장한다.

가장 자주 마주치는 응용은 **위너-힌친 정리**다. 약정상 확률과정의 자기공분산 함수 $R(\tau)=\mathbb E[X(t)X(t+\tau)]$ 는 정의상 양정치이고, 따라서 보흐너 정리에 의해 어떤 비음 측도의 푸리에 변환이다. 그 측도가 파워 스펙트럼이다. 즉 위너-힌친은 보흐너 정리를 확률과정의 언어로 옮겨 적은 것에 가깝고, “파워 스펙트럼이 왜 항상 비음인가”라는 질문의 답이 정확히 여기 있다. 난류의 에너지 스펙트럼, 구조 진동의 응답 스펙트럼 해석, 계측 노이즈의 PSD가 모두 같은 정리를 쓰고 있다.

8. 실무에서 걸리는 자리[편집]

자작 유사도를 커널로 쓰지 마라. 도메인 지식으로 만든 “그럴듯한 유사도”는 대개 양정치가 아니다. 그람 행렬에 음의 고유값이 나오면 SVM의 이차계획법이 비볼록이 되고, 커널 능형회귀는 해가 유일하지 않게 되며, 가우시안 프로세스는 음의 분산을 뱉는다. 음의 고유값을 자르거나(clip) 뒤집거나(flip) 대각을 밀어 올리는(shift) 세 관행이 있지만 전부 원래 유사도를 왜곡하는 임시방편이고, 애초에 양정치 커널을 설계하는 쪽이 정직하다.
합·곱·극한은 안전하고 차·나눗셈은 아니다. 양정치 함수의 비음 결합과 곱은 양정치이며(곱의 스펙트럼은 합성곱), 점별 극한도 연속이기만 하면 유지된다. 반면 두 커널을 빼는 순간 아무 보장이 없다. 커널 대수를 배울 때 “빼기는 없다”만 기억해도 사고의 절반이 예방된다.
차원을 반드시 명시하라. 위 함정 목록의 교훈이다. 공분산 모형표를 옮겨 쓸 때 원 문헌이 $d$ 를 몇으로 가정했는지 확인하지 않으면, 2차원 지도에서 잘 돌던 모형이 3차원 지질 모델링에서 조용히 깨진다.
수치 검증은 여전히 필요하다. 정리는 정확한 커널에 대한 진술이고, 실제로는 부동소수점 오차·근사 커널·나이스트룀 근사 같은 저계수 근사가 개입한다. 무작위 점 수백 개로 그람 행렬을 만들어 최소 고유값을 찍는 습관은 정리를 알아도 버리면 안 된다. 기계 정밀도 수준의 음수는 정상, 크게 음수면 공식이 틀렸다.
이름이 같은 다른 물건과 헷갈리지 말 것. 시간 의존 편미분방정식의 함수해석에서 쓰는 보흐너 적분과 보흐너 공간 $L^p(0,T;X)$ 는 같은 사람 이름을 달고 있지만 이 정리와 아무 관계가 없다. 유한요소법의 포물형 문제 수렴 증명에서 보흐너 공간이 나왔다고 스펙트럼 측도를 찾으면 안 된다.³

9. 관련 문서[편집]

Bochner, S. (1932). Vorlesungen über Fouriersche Integrale. 보흐너는 이 정리를 조화해석의 도구로 만들었고, 기계학습이라는 단어는 존재하지도 않았다. 70년 뒤 이 정리 하나로 커널 방법의 계산량을 세 자릿수 줄인 논문이 나올 줄은 당연히 몰랐을 것이다. 좋은 논문의 절반은 새 정리를 증명하는 게 아니라 이미 있는 정리에서 샘플러를 발견하는 일이라는 격언의 대표 사례. ↩
벤들란트 함수는 “차원 $d$ 와 매끄러움 $k$ 를 정하면, 그 조건에서 양정치이면서 콤팩트 지지를 갖는 최소 차수 다항식 커널”을 명시적으로 준다. 콤팩트 지지라 그람 행렬이 희소행렬이 되어 방사기저함수 보간과 무격자법의 계산량이 극적으로 줄어드는데, 그 대가가 “차원을 하나 올리면 다른 함수를 써야 한다”는 것이다. 공짜 점심은 여기서도 없다. ↩
살로몬 보흐너는 이름값을 여러 번 한 사람이라 보흐너 적분, 보흐너 공간, 보흐너 정리, 보흐너-마르티넬리 공식, 보흐너 라플라시안이 전부 그의 것이다. 논문에서 “Bochner”를 만나면 문맥부터 확인해야 하는 이유이고, 검색으로 이 문서에 도착한 사람의 절반은 아마 시간 의존 PDE를 풀다 왔을 것이다. ↩