위너 필터

1. 개요

위너 필터 Wiener Filter
목표	정상 과정에서 평균제곱오차 최소의 선형 추정
필요한 것	신호·잡음의 2차 통계 (자기상관 또는 파워 스펙트럼)
FIR 해	Rh = p (위너-호프 정규방정식)
비인과 해	H(ω) = Sxy / Syy
제안	위너(1942 기밀보고서, 1949 출간), 콜모고로프(1941, 이산시간)
후손	칼만 필터, LMS·RLS 적응 필터

잡음 섞인 신호에서 원래 신호를 건지고 싶다. 신호와 잡음이 각각 어떤 주파수에 사는지만 안다면, 주파수마다 “얼마나 믿을지”를 정하는 최적의 볼륨 손잡이가 있다.

위너 필터(Wiener filter)는 정상(stationary) 확률과정 $y$ 를 관측해 원하는 신호 $x$ 를 선형 필터로 추정할 때, 평균제곱오차 $E[(x - \hat x)^2]$ 를 최소화하는 필터다. 필요한 정보는 신호와 관측의 2차 통계 — 자기상관함수 또는 파워 스펙트럼 — 뿐이다. 노버트 위너가 2차 세계대전 중 대공 사격 통제를 위해 연속시간 판을 만들었고(1942년 기밀 보고서, 1949년 출간), 콜모고로프가 1941년에 이산시간 판을 독립적으로 냈다¹.

LMS 필터 문서가 위너 해 $\mathbf w_\star = R^{-1}\mathbf p$ 를 「적응 필터가 찾아가는 목적지」로 썼다. 이 문서는 그 목적지 자체 — 직교성 원리, FIR·비인과·인과의 세 가지 해, 디컨볼루션, 그리고 칼만 필터와의 관계 — 를 다룬다.

2. 직교성 원리

선형 추정 $\hat x_n = \sum_k h_k\, y_{n-k}$ 에서 오차 $e_n = x_n - \hat x_n$ 의 평균제곱이 최소가 되는 조건은 단 하나다.

$$E[\,e_n\, y_{n-k}\,] = 0 \qquad \text{(쓰는 모든 } k \text{ 에 대해)}.$$

최적 오차는 쓴 데이터 전부와 직교한다 — 기하학적으로 $x_n$ 을 관측이 생성하는 부분공간에 정사영한 것이다. 조금이라도 상관이 남아 있으면 그 방향으로 $h$ 를 더 움직여 오차를 줄일 수 있기 때문이다. 최소자승법의 정규방정식과 똑같은 논리를 기댓값으로 옮긴 것이고, 위너 필터의 세 가지 판은 “어떤 $k$ 를 허용하느냐”만 다르다.

2.1. FIR — 유한 길이

$k = 0, \dots, L-1$ 로 제한하면 직교성 원리가 바로 위너-호프 방정식의 유한판이 된다.

$$R\,\mathbf h = \mathbf p,\qquad R_{ij} = r_{yy}(i-j),\quad p_i = r_{xy}(i).$$

$R$ 이 토플리츠 행렬이라 일반 $O(L^3)$ 소거 대신 레빈슨-더빈 알고리즘으로 $O(L^2)$ 에 푼다. 레빈슨이 1947년 논문에서 바로 이 문제를 풀려고 그 점화식을 만들었다. 최소 오차는 $J_{\min} = r_{xx}(0) - \mathbf p^{\mathsf T}\mathbf h$ 다.

2.2. 비인과 — 미래까지 쓴다

$k$ 가 $-\infty$ 부터 $\infty$ 까지 전부면(녹음된 데이터를 나중에 처리하는 평활), 합성곱이 주파수 영역에서 곱셈이 되어 해가 닫힌꼴이다.

$$H(\omega) = \frac{S_{xy}(\omega)}{S_{yy}(\omega)}.$$

가장 흔한 경우 $y = x + v$ (잡음 $v$ 는 신호와 무상관)면

$$H(\omega) = \frac{S_x(\omega)}{S_x(\omega) + S_v(\omega)},\qquad J_{\min} = \int_{-\pi}^{\pi} \frac{S_x S_v}{S_x + S_v}\,\frac{d\omega}{2\pi}.$$

해석이 직관적이다. 신호 대 잡음비가 큰 주파수는 이득 1 근처로 통과시키고, 잡음이 지배하는 주파수는 0 근처로 죽인다. 이득이 0과 1 사이에서 부드럽게 바뀐다는 점이 이상적 저역통과처럼 칼같이 자르는 필터와의 차이다.

2.3. 인과 — 과거만 쓴다

실시간 필터는 $k \ge 0$ 만 쓸 수 있다. 그러면 위너-호프 방정식이 반무한 구간의 적분방정식이 되어 위 나눗셈이 통하지 않는다. 위너의 해법은 스펙트럼 인수분해 $S_{yy} = S_{yy}^{+} S_{yy}^{-}$ (인과·최소위상 인자와 반인과 인자)이다.

$$H_c(\omega) = \frac{1}{S_{yy}^{+}(\omega)} \left[ \frac{S_{xy}(\omega)}{S_{yy}^{-}(\omega)} \right]_{+}.$$

$[\cdot]_+$ 는 인과 부분만 남기는 연산이다. 먼저 $1/S_{yy}^+$ 로 관측을 백색화하고, 백색 입력에 대해서는 인과 부분만 잘라내면 최적이라는 보드-섀넌(1950)의 해석이 이 식의 뜻이다.

3. 검산 — AR(1) 신호, 0 dB 잡음

신호 $x_n = 0.95\,x_{n-1} + w_n$ (분산 1로 정규화), 관측 $y_n = x_n + v_n$, $v$ 는 분산 1인 백색잡음이다. 그냥 $y$ 를 쓰면 MSE 는 1이다. $2\times10^5$ 샘플로 실측하고 이론값과 비교했다.

추정기	쓰는 데이터	이론 MSE	실측 MSE
필터 없음	$y_n$	1.000	0.995
FIR $L=1$ (상수 이득)	$y_n$	0.500	0.496
FIR $L=5$	$y_{n-4..n}$	0.253	0.250
FIR $L=20$	$y_{n-19..n}$	0.238	0.236
인과 IIR (= 정상상태 칼만)	과거 전부	0.2380	—
비인과 평활	과거·미래 전부	0.1561	—

세 가지가 보인다. FIR 길이를 늘리면 인과 위너 한계 0.238 로 빠르게 수렴한다($a = 0.95$ 의 상관 길이가 대략 20샘플이다). 그 한계는 정상상태 칼만 필터의 사후 분산과 소수 넷째 자리까지 같다. 미래를 쓸 수 있으면 오차가 다시 3분의 1쯤 준다 — 평활이 필터보다 늘 유리한 이유다.

4. 디컨볼루션 — 흐린 사진 되살리기

관측이 $y = h * x + v$ (흐림 커널 $h$)이면 같은 직교성 원리에서

$$G(\omega) = \frac{H^{*}(\omega)}{\lvert H(\omega)\rvert^{2} + S_v(\omega)/S_x(\omega)}$$

가 나온다. 잡음이 0이면 역필터 $1/H$ 지만, $H$ 가 0에 가까운 주파수에서 역필터는 잡음을 무한히 키운다. 분모의 $S_v/S_x$ 가 그 폭주를 막는 정규화 항이고, 이게 티호노프 정규화의 주파수 영역 판이다. 천체·현미경 영상 복원, 지진파 처리의 「위너 디컨볼루션」이 이것이다. 실무에서는 $S_v/S_x$ 를 모르니 상수 $K$ 하나로 두고 눈으로 조정하는 일이 흔하다².

5. 칼만 필터와의 관계

칼만 필터(1960)는 위너 필터의 세 가지 한계를 풀었다.

• 비정상 과정·유한 시작 시간. 위너는 무한 과거부터 정상이라고 가정한다. 칼만은 상태공간 모형으로 시작점과 시변 계수를 자연스럽게 다룬다.
• 다변수. 행렬 스펙트럼 인수분해는 손으로 하기 고통스럽다. 칼만은 리카티 방정식 하나로 대체했다.
• 재귀 계산. 매 스텝 상태 하나만 갱신하면 된다.

반대로 시불변 상태공간 모형에서 칼만 이득이 정상상태로 수렴하면, 그 필터는 인과 위너 필터와 똑같다. 위 표의 0.2380 이 바로 그 일치다. 즉 칼만은 위너를 대체한 게 아니라 일반화했다.

적응 쪽 후손도 있다. 통계를 미리 모르면 데이터로 위너 해를 추적해야 하는데, 기울기 하강으로 가면 LMS 필터, 정규방정식을 재귀로 풀면 재귀 최소제곱이 된다. 둘 다 적응 필터의 기둥이다.

6. 한계

• 2차 통계만 본다. 선형 추정 중 최적일 뿐이다. 신호·잡음이 가우스면 선형이 곧 전체 최적이지만, 충격성 잡음이나 희소 신호에는 비선형 추정(중앙값 필터, 전변분 잡음제거, 희소 복원)이 훨씬 낫다.
• 스펙트럼을 알아야 한다. 실제로는 추정해야 하고, 잘못 추정하면 최적성도 같이 사라진다.
• 정상성 가정. 음성처럼 통계가 수십 ms 단위로 바뀌는 신호에는 짧은 프레임마다 위너 이득을 다시 계산하는 방식(스펙트럼 차감류 음성 향상)으로 버틴다. 이때 프레임 간 이득이 들쭉날쭉해 생기는 「뮤지컬 노이즈」가 유명한 부작용이다³.

7. 관련 문서

• 칼만 필터 · LMS 필터 · 재귀 최소제곱 · 적응 필터 · 디지털 필터
• 파워 스펙트럼 · 상관함수 · 토플리츠 행렬 · 레빈슨-더빈 알고리즘
• 최소자승법 · 티호노프 정규화 · 전변분 잡음제거 · 푸리에 변환

8. Footnotes

1. 위너의 보고서는 노란 표지에 수식이 빽빽해서 「황화(the yellow peril)」라는 별명으로 불렸다. 읽다가 쓰러지는 공학자가 속출했다는 것. 기밀이 풀리고도 한동안 레빈슨의 해설 논문이 사실상 공식 번역본 역할을 했다. ↩

2. “이론상 최적 필터”를 만들어 놓고 결국 슬라이더 하나 달아서 사람이 눈으로 맞추는 건 영상 처리계의 오랜 국룰이다. 최적화의 마지막 단계는 언제나 인간의 눈이다. ↩

3. 잡음이 사라진 자리에 짧은 순음들이 뾰롱뾰롱 남아서 붙은 이름이다. 잡음을 없앴더니 더 거슬리는 잡음이 생기는, 신호처리판 원숭이 손 현상. ↩