유계 변동 함수

수치해석 컴퓨터 그래픽스 마지막 수정: 2026-08-08 04:24:53

1. 개요[편집]

유계 변동 함수 Function of Bounded Variation
약칭	BV 함수
1차원 기원	C. Jordan (1881)
다차원 정식화	Caccioppoli, De Giorgi, Fleming–Rishel (1950~60년대)
핵심 성질	불연속을 허용하면서 콤팩트성을 유지
주 무대	영상 복원, 보존법칙, 극소곡면·페리미터

유계 변동 함수(BV 함수)는 전변분(total variation)이 유한한 함수로, 거칠게 말하면 “위아래로 오르내린 총 거리”가 유한한 함수다. 미분 가능성을 전혀 요구하지 않으면서도 도함수에 해당하는 대상(측도)을 가진다는 점이 핵심이며, 그 덕분에 계단·점프·충격파처럼 불연속을 품은 대상을 정면으로 다룰 수 있다.

한 변수의 경우 정의가 그림 그대로다. 구간 $[a,b]$ 의 임의의 분할 $a = x_0 < x_1 < \cdots < x_N = b$ 에 대해

V(f;[a,b]) = \sup_{\text{분할}} \sum_{i=0}^{N-1} \bigl| f(x_{i+1}) - f(x_i) \bigr|

가 유한하면 $f \in BV([a,b])$ 다. 요르당 분해 정리에 의해 이는 ” $f$ 가 두 단조증가 함수의 차”라는 것과 동치다. 매끄러운 함수라면 $V(f) = \int_a^b |f'|\,dx$ 로, 도함수 크기의 $\ell_1$ 적분과 같아진다 — 이 등식이 다차원 확장의 출발점이다.

2. 다차원 — 분포적 정의와 벡터 라돈 측도[편집]

$n$ 차원에서는 위의 “분할 위 합”이 무의미하다. 대신 부분적분을 뒤집어 분포적(distributional)으로 정의한다. 열린집합 $\Omega \subset \mathbb{R}^n$ 위에서

\mathrm{TV}(u) = \sup\left\{ \int_\Omega u \,\mathrm{div}\,\varphi \; dx \;:\; \varphi \in C_c^1(\Omega;\mathbb{R}^n),\ \|\varphi\|_\infty \le 1 \right\}

이고, $BV(\Omega) = \{ u \in L^1(\Omega) : \mathrm{TV}(u) < \infty \}$ 이다. $u$ 가 $C^1$ 이면 발산정리로 $\int u\,\mathrm{div}\,\varphi = -\int \nabla u \cdot \varphi$ 이므로 상한이 $\int |\nabla u|\,dx$ 로 돌아간다. 즉 이 정의는 미분 불가능한 함수까지 정의역을 넓힌 확장이지, 다른 물건이 아니다.

이 상한이 유한하다는 것은 리스 표현정리에 의해 다음을 뜻한다 — 분포 도함수 $Du$ 가 유한한 벡터값 라돈 측도 이며 $\mathrm{TV}(u) = |Du|(\Omega)$ 다. 함수가 아니라 측도라는 것이 결정적이다. 계단함수의 도함수는 함수로는 존재하지 않지만 측도(디랙 델타)로는 멀쩡히 존재하기 때문이다. 노름 $\|u\|_{BV} = \|u\|_{L^1} + |Du|(\Omega)$ 아래에서 $BV(\Omega)$ 는 바나흐 공간이지만, 가분(separable)도 반사적(reflexive)도 아니다. 그래서 BV에서는 약수렴 대신 약*수렴(weak-*)을 쓴다.

측도 $Du$ 는 르베그 분해로 세 조각이 된다.

Du = \underbrace{\nabla u \,\mathcal{L}^n}_{\text{절대연속}} \;+\; \underbrace{(u^+ - u^-)\,\nu_u\,\mathcal{H}^{n-1}\!\lfloor J_u}_{\text{점프}} \;+\; \underbrace{D^c u}_{\text{캔터}}

첫 항이 보통 의미의 그래디언트, 둘째 항이 점프집합 $J_u$ 위에서 점프 크기에 법선을 곱한 $(n{-}1)$ 차원 측도, 셋째가 캔터 부분이다. 캔터 부분은 “점프도 없고 도함수도 거의 어디서나 0인데 함수는 증가한다”는 악마의 계단(칸토어 함수)이 실물 예다. 점프만 남기고 캔터 항을 금지한 부분공간이 SBV(special BV)이고, 멈퍼드-샤 범함수 같은 분할 모형이 사는 곳이다.¹

3. 소볼레프 공간과 무엇이 다른가[편집]

가장 가까운 이웃은 소볼레프 공간 $W^{1,1}(\Omega)$ 이다. 포함 관계는 $W^{1,1}(\Omega) \subsetneq BV(\Omega)$ 로 진부분집합이며, 그 차이가 전부다. $W^{1,1}$ 은 $Du$ 가 르베그 측도에 대해 절대연속일 것 — 즉 위 분해의 첫 항만 있을 것 — 을 요구한다. 공 $B_R$ 의 지시함수 $\mathbf{1}_{B_R}$ 은 $\mathrm{TV} = \mathcal{H}^{n-1}(\partial B_R)$ 로 유한하니 BV지만, 점프 항이 살아 있으므로 $W^{1,1}$ 이 아니다.

이 한 칸 차이가 응용의 갈림길이다. 영상은 물체 경계에서 실제로 점프하고, 충격파를 품은 보존법칙의 해도 점프한다. 모형 공간이 $W^{1,1}$ 이면 그런 해가 아예 후보에서 빠지고, $H^1$ 처럼 이차 에너지를 쓰면 점프의 비용이 무한대라 최소화기가 경계를 반드시 뭉갠다(티호노프 정규화가 에지를 뭉개는 이유가 바로 이것이다). BV는 점프에 점프 높이 × 경계 면적이라는 유한하고 합리적인 값을 매긴다.

4. 왜 하필 BV인가 — 콤팩트성과 하반연속성[편집]

“불연속을 허용한다”만으로는 부족하다. 그건 $L^1$ 도 한다. BV가 국룰이 된 진짜 이유는 불연속을 허용하면서도 최소화 문제를 풀 만큼의 콤팩트성이 남아 있는, 사실상 가장 헐거운 공간이라는 점이다. 변분법의 직접법에 필요한 두 재료가 정확히 갖춰져 있다.

콤팩트 매장. $\Omega$ 가 유계이고 경계가 립시츠면, $BV(\Omega)$ 에서 유계인 수열은 $L^1(\Omega)$ 에서 강수렴하는 부분수열을 가진다(그리고 BV에서 약*수렴한다). 1차원판이 고전적인 헬리 선택정리 — 균등유계·균등유계변동 수열은 점별수렴 부분수열을 가진다 — 이고, 다차원 판이 위 명제다. 덤으로 $BV(\Omega) \hookrightarrow L^{n/(n-1)}(\Omega)$ 연속 매장도 성립한다.
하반연속성. $u_k \to u$ 가 $L^1_{\mathrm{loc}}$ 수렴이면 $\mathrm{TV}(u) \le \liminf_k \mathrm{TV}(u_k)$ 다. 상한의 정의에서 곧바로 나온다(상한은 언제나 하반연속이다).

이 둘을 합치면 ROF 범함수 같은 문제의 최소화자 존재 증명이 세 줄로 끝난다. 최소화 수열을 잡으면 TV가 유계이므로 콤팩트성으로 $L^1$ -수렴 부분수열을 뽑고, 데이터항은 연속, TV는 하반연속이므로 극한이 하한을 달성한다. 전변분 잡음제거의 해가 “존재는 하는가”라는 질문에 답할 수 있는 것이 전적으로 BV 덕분이다.

5. 여면적 공식 — TV는 등위집합 둘레의 총합[편집]

BV에서 가장 강력한 도구는 여면적 공식(coarea formula)이다.

\mathrm{TV}(u) = \int_{-\infty}^{\infty} \mathrm{Per}\bigl(\{x \in \Omega : u(x) > t\};\,\Omega\bigr)\,dt

여기서 $\mathrm{Per}(E)$ 는 집합 $E$ 의 페리미터, 즉 $\mathrm{TV}(\mathbf{1}_E)$ 다. 읽으면 이렇다 — TV는 모든 등위집합(level set) 경계 길이를 모든 높이에 대해 적분한 값이다. 결과가 셋 나온다.

TV 최소화는 등위집합 각각의 둘레를 줄이는 문제로 분해된다. 서로 다른 높이의 등위집합이 목적함수에서 결합하지 않으므로, 이진 문제를 층별로 풀어 쌓아 올려도 원 문제의 최적해가 된다. TV 모형이 그래프 컷·최대유량 같은 조합 최적화로 정확히 풀리는 경로가 여기서 열린다.
TV는 대비(contrast)에는 선형이고 형태에는 기하적이다. 높이 $\alpha$ , 반지름 $R$ 인 원반의 TV는 $\alpha \cdot 2\pi R$ 이며, 이것이 ROF의 대비 손실이 $2\lambda/R$ 이라는 닫힌 형태로 계산되는 근거다.
페리미터가 TV의 특수 경우이므로, 레벨셋 방법·극소곡면·등주부등식이 전부 같은 언어를 공유하게 된다. 카치오폴리 집합(유한 페리미터 집합)과 드 조르지의 환원가능 경계 이론이 이 줄기다.

6. 수치해석에서 — 같은 양, 다른 무대[편집]

BV는 영상처리만의 물건이 아니다. 스칼라 보존법칙 $u_t + f(u)_x = 0$ 의 엔트로피 해는 초기값이 BV면 시간에 대해 BV로 남고, 전변분이 시간에 증가하지 않는다( $\mathrm{TV}(u(\cdot,t)) \le \mathrm{TV}(u_0)$ ). 정확해가 가진 이 성질을 이산 도식에 그대로 요구한 것이 하튼(1983)의 전변분 감소(TVD) 조건이고, 오늘날 차분 도식의 유속 제한자(flux limiter)가 하는 일이 정확히 그것이다. 도식이 TVD면 충격파 근처에서 새 극값을 만들 수 없으므로 진동이 원천 차단된다. 대가는 고데노프 정리 — 선형이면서 단조인 도식은 1차 정확도를 넘을 수 없다는 것 — 이고, 그래서 모든 고해상도 도식은 비선형(해에 의존하는 제한자)이다. 이산 근사의 수렴 증명도 대개 “TV 유계 → 헬리 선택정리 → $L^1$ 극한 추출”이라는 위와 똑같은 각본을 탄다.

7. 한계와 대안[편집]

BV가 만능은 아니고, 그 한계는 대체로 BV가 가진 사전분포가 “조각별 상수”라는 데서 나온다.

계단화(staircasing). TV는 높이 $h$ 의 변화를 한 번에 넘든 100개의 작은 계단으로 나눠 넘든 비용이 똑같다(1차 동차성 + 삼각부등식). 매끄러운 경사와 계단이 TV 관점에서 무차별하므로, 데이터항이 조금만 밀어 주면 경사가 계단으로 바뀐다. 대책은 2계 도함수까지 벌하는 TGV(total generalized variation)로 “조각별 아핀”까지 무료화하거나, 원점 근방을 이차로 매끈하게 만든 후버-TV를 쓰는 것.
텍스처. 잔물결 같은 미세 결은 진폭이 작아도 등위집합 둘레가 엄청나서 TV가 크게 매긴다. 그래서 TV 모형은 텍스처를 잡음으로 간주해 지워 버린다. 이쪽은 웨이블릿 변환 계수의 희소성을 쓰는 베소프(Besov) 공간 모형이나 딕셔너리 학습 기반 사전이 낫다.
함수해석적 불편함. 비가분·비반사적이라 약*위상을 다뤄야 하고, 유한요소 이산화에서 BV-적합 공간을 만드는 일이 $H^1$ 처럼 간단하지 않다. 최소화자의 유일성도 데이터항이 강볼록할 때에만 보장된다.²

그럼에도 BV가 30년 넘게 자리를 지키는 이유는 단순하다. 불연속을 허용하는 것과 최소화 문제가 잘 세워지는 것을 동시에 만족하는 선택지가 사실상 이것 하나이기 때문이다.³

8. 관련 문서[편집]

칸토어 함수는 $[0,1]$ 에서 연속·단조증가이고 $f(0)=0$ , $f(1)=1$ 인데 거의 어디서나 $f'=0$ 이다. 전변분은 정확히 1 — 즉 “1만큼 올라갔다”는 사실은 측도가 정직하게 기록한다. 도함수를 함수로만 생각하면 이 함수는 “아무 데서도 안 올라갔는데 1까지 도달한” 괴담이 되고, 측도로 생각하면 그냥 특이 측도 하나다. BV가 왜 측도를 쓰는지를 보여 주는 가장 좋은 예. ↩
ROF처럼 데이터항이 $\frac12\|u-f\|_{L^2}^2$ 이면 강볼록이라 최소화자가 유일하다. 반면 $\min \mathrm{TV}(u)$ s.t. $Au=b$ 형태의 제약형이나 $L^1$ 데이터항(TV-L1)에서는 최소화자가 여러 개일 수 있고, 실제로 TV-L1은 여러 해를 갖는 것이 이론적 특징(대비 불변성)이다. ↩
물론 “사실상”이라는 말이 붙는다. 멈퍼드-샤(SBV), TGV, 그리고 요즘의 학습 기반 사전 전부가 BV를 어느 정도씩 대체하려는 시도다. 다만 파라미터 하나로 끝나고 볼록이며 존재·유일성 증명이 반 페이지인 모형은 여전히 BV뿐이라, 새 논문의 베이스라인 칸은 앞으로도 한동안 TV가 지킬 것 같다. ↩