소볼레프 공간

1. 개요

소볼레프 공간 Sobolev Space
기호	Wk,p(Ω), Hk(Ω) = Wk,2(Ω)
정립	S. L. Sobolev (1930년대)
정체	약도함수가 Lp에 있는 함수들의 바나흐 공간
핵심 정리	매입정리 · 렐리히-콘드라쇼프 · 자취 정리 · 푸앵카레 부등식
수치해석에서	유한요소법 변분형이 사는 집

소볼레프 공간은 함수 자신과 그 약도함수(weak derivative)가 $k$계까지 전부 $L^p$ 에 들어 있는 함수들을 모아 놓은 바나흐 공간이다. 열린집합 $\Omega \subset \mathbb{R}^n$ 위에서

$$W^{k,p}(\Omega) = \bigl\{\, u \in L^p(\Omega) \;:\; D^\alpha u \in L^p(\Omega) \ \ \forall\, |\alpha| \le k \,\bigr\}$$

이고, 여기서 $D^\alpha u$ 는 고전적 미분이 아니라 부분적분 항등식

$$\int_\Omega u \, D^\alpha \varphi \,dx = (-1)^{|\alpha|}\int_\Omega (D^\alpha u)\, \varphi \,dx \qquad \forall\, \varphi \in C_c^\infty(\Omega)$$

로 정의되는 약도함수다. 노름은 $\|u\|_{W^{k,p}} = \bigl(\sum_{|\alpha|\le k}\|D^\alpha u\|_{L^p}^p\bigr)^{1/p}$ 이고, $L^p$ 가 완비이므로 $W^{k,p}$ 도 완비다. $p=2$ 인 경우는 내적

$$(u,v)_{H^k} = \sum_{|\alpha|\le k}\int_\Omega D^\alpha u \, D^\alpha v \,dx$$

가 붙어 힐베르트 공간이 되고, 이 특수한 경우를 $H^k(\Omega) = W^{k,2}(\Omega)$ 로 따로 쓴다. 수치해석에서 볼 일이 있는 것은 사실상 $H^1$ 하나라고 해도 크게 틀리지 않다.

왜 이런 물건을 만드느냐. 미분방정식의 해를 찾을 공간을 미리 완비로 만들어 두기 위해서다. $C^1$ 함수들의 공간은 미분 노름 아래에서 완비가 아니라, 최소화 수열을 뽑아도 극한이 밖으로 도망간다. “먼저 넉넉한 공간에서 해의 존재를 확보하고, 그다음에 그 해가 사실은 매끄럽더라는 것을 따로 증명한다”는 것이 20세기 편미분방정식론의 표준 전략이고, 그 넉넉한 공간이 소볼레프 공간이다. 변분법의 직접법이 굴러가는 무대이자, 유한요소법의 오차 해석이 통째로 서 있는 토대다.¹

2. 매입정리 — 미분 한 번을 적분 몇 번과 바꾼다

$W^{1,p}$ 에 있는 함수는 얼마나 좋은 함수인가. 소볼레프 매입정리(embedding theorem)가 그 환율을 정해 준다. 임계 지수는

$$\frac{1}{p^*} = \frac{1}{p} - \frac{1}{n}, \qquad \text{즉}\quad p^* = \frac{np}{n-p} \quad (p < n)$$

이고, 다음이 성립한다.

• $p < n$: $W^{1,p}(\Omega) \hookrightarrow L^{p^*}(\Omega)$. 미분 한 번을 내놓고 적분 지수를 $p$ 에서 $p^*$ 로 올려 받는 거래다.
• $p = n$: $L^q$ 에는 모든 $q<\infty$ 에 대해 들어가지만, $n \ge 2$ 에서 $L^\infty$ 에는 못 들어간다. 단위원판 위의 $u(x) = \log\log(1+1/|x|)$ 가 반례로, $H^1$ 함수가 유계일 필요조차 없다는 사실은 2차원 수치해석에서 두고두고 발목을 잡는다.
• $p > n$: 모레이 부등식에 의해 $W^{1,p}(\Omega) \hookrightarrow C^{0,\gamma}(\overline{\Omega})$, $\gamma = 1 - n/p$. 즉 (연속 대표원을 골라) 횔더 연속이 된다.

지수 $p^*$ 를 외울 필요는 없다. 척도 변환 $u_\lambda(x) = u(\lambda x)$ 를 넣어 양변의 $\lambda$ 거듭제곱이 맞아떨어지는 지수를 구하면 그게 유일한 후보이며, 그래서 임계 지수는 “그것 말고는 될 수가 없는” 값이다.

여기에 하나가 더 붙는다. $\Omega$ 가 유계이고 경계가 립시츠면 렐리히-콘드라쇼프 정리에 의해

$$W^{1,p}(\Omega) \hookrightarrow\hookrightarrow L^q(\Omega), \qquad 1 \le q < p^*$$

의 매입이 콤팩트하다. 즉 $W^{1,p}$ 에서 유계인 수열은 $L^q$ 에서 강수렴하는 부분수열을 가진다. 임계 지수 $q = p^*$ 에서는 콤팩트성이 깨지는데, 이는 척도 변환으로 질량을 한 점에 몰아넣는 집중(concentration) 현상 때문이며 비선형 변분문제의 난이도가 임계 지수 근처에서 폭발하는 이유이기도 하다. 콤팩트성이 왜 중요한가 하면 — 최소화 수열에서 수렴하는 부분수열을 뽑을 수 있어야 최소화자의 존재를 말할 수 있기 때문이다. 정리 하나가 존재 증명 하나를 만든다.

3. 자취와 경계값 — H^{1/2}는 어디서 오는가

$H^1(\Omega)$ 함수는 거의 어디서나 정의된 물건이라, 측도 0인 경계 $\partial\Omega$ 위의 값을 “그냥 대입해서” 읽을 수 없다. 그런데 경계 조건을 걸려면 경계값이 필요하다. 이 간극을 메우는 것이 자취 정리(trace theorem)다. $\Omega$ 가 유계 립시츠 영역이면 유계 선형 사상

$$T : H^1(\Omega) \longrightarrow L^2(\partial\Omega), \qquad Tu = u\big|_{\partial\Omega} \ \ (u \in C(\overline\Omega))$$

가 유일하게 존재한다. 중요한 것은 상(image)이 정확히 무엇이냐인데, $L^2(\partial\Omega)$ 전체가 아니라 그 진부분집합인 분수차수 공간 $H^{1/2}(\partial\Omega)$ 이고 $T$ 는 이 위로 전사다. 차원이 하나 낮은 곳으로 제한하면서 미분을 정확히 반 개 잃는 셈이다. 이 반 개짜리 공간은 슬로보데츠키 반노름

$$|g|_{H^{1/2}(\Gamma)}^2 = \int_\Gamma\!\!\int_\Gamma \frac{|g(x)-g(y)|^2}{|x-y|^{n}} \,dS(x)\,dS(y) \qquad (\Gamma = \partial\Omega \subset \mathbb{R}^n)$$

로 정의된다. $T$ 의 핵이 바로 $H_0^1(\Omega)$ — $C_c^\infty(\Omega)$ 의 폐포로 정의되는, “경계에서 0인” 함수들의 공간이다.

이 이야기가 공학적으로 어디서 튀어나오냐면 영역 분할법이다. 두 부분영역을 인터페이스에서 이어 붙일 때 교환하는 것이 $H^{1/2}$ 자취(디리클레 데이터)와 그 쌍대 $H^{-1/2}$ 플럭스(노이만 데이터)이고, 스티클로프-푸앵카레 연산자와 전제조건자의 스케일링 $h$ 의존성이 전부 이 지수 $1/2$ 에서 나온다.

4. 푸앵카레 부등식과 Lax-Milgram

$H_0^1(\Omega)$ 위에서는 푸앵카레 부등식

$$\|u\|_{L^2(\Omega)} \le C_\Omega \,\|\nabla u\|_{L^2(\Omega)}, \qquad u \in H_0^1(\Omega)$$

이 성립하며, $C_\Omega$ 는 영역의 지름 정도 크기다(평균이 0인 함수에 대한 판이 푸앵카레-비어팅거 부등식이다). 겉보기엔 소박한 부등식인데, 이것 하나가 $|u|_{H^1} = \|\nabla u\|_{L^2}$ 가 $H_0^1$ 에서 진짜 노름이 된다는 것을 보장한다. 그리고 그 사실이 다음 정리의 가정을 채워 준다.

Lax-Milgram 정리. 힐베르트 공간 $V$ 위의 쌍선형형식 $a(\cdot,\cdot)$ 이 유계 $|a(u,v)| \le M\|u\|_V\|v\|_V$ 이고 강제적(coercive) $a(u,u) \ge \alpha\|u\|_V^2$ 이면, 임의의 $\ell \in V^*$ 에 대해 $a(u,v) = \ell(v)\ \forall v \in V$ 를 만족하는 $u$ 가 유일하게 존재하고 $\|u\|_V \le \|\ell\|_{V^*}/\alpha$ 다.

푸아송 문제 $-\nabla\cdot(\Gamma\nabla u) = f$ 의 약형식에서 $a(u,v)=\int \Gamma\nabla u\cdot\nabla v$ 는 유계이고, 푸앵카레 부등식 덕에 $H_0^1$ 에서 강제적이다. 그러니까 유한요소법의 변분형이 $H^1$ 에서 세워지는 것은 취향이 아니라 필연이다 — 약형식이 요구하는 최소한의 매끄러움이 “1계 도함수가 제곱적분 가능”이고, 그 공간이 힐베르트라야 리스 표현/Lax-Milgram이 돌아가며, 경계 조건을 걸려면 자취 정리가 필요하기 때문이다. 요소를 조각별 1차 다항식으로 잡을 수 있는 것도 그 함수가 $C^1$ 은 아니지만 $H^1$ 에는 멀쩡히 속하기 때문이다.²

5. 오차 추정 — 왜 h^k인가

이산 부분공간 $V_h \subset V$ 위에서 같은 변분형을 풀면 갤러킨 해 $u_h$ 를 얻는다. 여기서 Céa 보조정리가 나온다.

$$\|u - u_h\|_{V} \;\le\; \frac{M}{\alpha}\, \inf_{v_h \in V_h} \|u - v_h\|_{V}$$

읽으면 이렇다 — 갤러킨 해는 그 공간이 낼 수 있는 최선의 근사와 상수배 안에서 같다. 그러므로 오차 추정 문제는 “이 요소 공간이 참해를 얼마나 잘 근사하는가”라는 순수 근사론 문제로 환원된다. 그 근사론 부분을 브램블-힐버트 보조정리로 처리하면, 형상정칙(shape-regular) 격자 위의 $k$ 차 라그랑주 요소에 대해

$$\|u - u_h\|_{H^1(\Omega)} \le C\, h^{k}\,|u|_{H^{k+1}(\Omega)}, \qquad \|u - u_h\|_{L^2(\Omega)} \le C\, h^{k+1}\,|u|_{H^{k+1}(\Omega)}$$

가 나온다(뒤쪽 $L^2$ 추정은 오뱅-니체 쌍대 논법이며 쌍대 문제의 $H^2$ 정칙성을 추가로 요구한다). 여기서 반드시 읽어야 할 것은 우변에 $|u|_{H^{k+1}}$ 이 있다는 점이다. 참해가 그만큼 소볼레프 정칙성을 갖지 않으면 그 수렴 차수는 나오지 않는다. L자형 영역의 재진입 모서리(내각 $\omega = 3\pi/2$)에서 해는 $r^{\pi/\omega}=r^{2/3}$ 처럼 거동해 $H^{5/3-\varepsilon}$ 까지밖에 못 가고, 그러면 2차 요소를 써도 균일 격자에서는 차수가 $h^{2/3}$ 로 주저앉는다. 적응 격자 세분화가 취향이 아니라 필수인 이유이며, 사후 오차 추정자가 하는 일이 바로 “정칙성이 부족한 곳”을 국소적으로 찾아내는 것이다.³

6. H(div)와 H(curl) — 모든 미분을 요구하지는 않는다

$H^1$ 은 그래디언트 전부를 $L^2$ 로 요구한다. 그런데 물리가 실제로 요구하는 것은 대개 그보다 적다. 그래서 다음 공간들이 따로 산다.

$$H(\mathrm{div};\Omega) = \{\mathbf{v}\in L^2 : \nabla\!\cdot\!\mathbf{v}\in L^2\}, \qquad H(\mathrm{curl};\Omega) = \{\mathbf{v}\in L^2 : \nabla\!\times\!\mathbf{v}\in L^2\}$$

$H(\mathrm{div})$ 는 요소 경계에서 법선 성분만 연속이면 되고(라비아-토마스 요소), $H(\mathrm{curl})$ 은 접선 성분만 연속이면 된다(네델렉 요소, 즉 에지 요소). 이것이 물리와 정확히 맞아떨어진다 — 매질 경계에서 자속밀도의 법선 성분과 전기장의 접선 성분이 연속이고 나머지는 점프하기 때문이다. 절점 벡터 요소가 전자기에서 가짜 해를 뿜는 이유와 에지 요소가 그것을 해결하는 과정은 유한요소 전자기에 정리되어 있다. 세 공간은

$$H^1 \xrightarrow{\ \nabla\ } H(\mathrm{curl}) \xrightarrow{\ \nabla\times\ } H(\mathrm{div}) \xrightarrow{\ \nabla\cdot\ } L^2$$

라는 드람 복합체를 이루고, 이산 공간이 이 복합체를 그대로 흉내 내도록 요소를 고르는 것이 유한요소 외미분형식(FEEC)의 요지다. 비압축성 스토크스 유동에서 속도-압력 쌍이 inf-sup(LBB) 조건을 만족해야 압력이 체스판으로 얼룩지지 않는 것도 같은 종류의 이야기다.

7. 소볼레프로 담기지 않는 것

소볼레프 공간의 한계는 정의에서 이미 드러난다. $W^{1,1}$ 은 약도함수 $Du$ 가 함수일 것, 즉 르베그 측도에 절대연속일 것을 요구한다. 그런데 충격파를 품은 보존법칙의 해나 물체 경계를 가진 영상은 실제로 점프하고, 계단함수의 도함수는 함수가 아니라 라돈 측도(디랙 델타)다. 그래서 그런 대상은 $W^{1,1}$ 밖으로 밀려나고, 대신 $Du$ 가 측도인 것만 요구하는 유계 변동 함수 공간 $BV$ 를 쓴다. 포함 관계는 $W^{1,1} \subsetneq BV$ 로 딱 한 칸이며, 그 한 칸이 “불연속을 담을 수 있는가”의 전부다.

거꾸로 $H^1$ 처럼 이차 에너지를 쓰면 점프의 비용이 무한대라 최소화자가 경계를 반드시 뭉갠다. 전변분 잡음제거가 티호노프 정규화를 밀어낸 것도, 전변분 감소 도식이 $L^2$ 노름이 아니라 전변분을 재는 것도 결국 같은 사정이다. 소볼레프 공간은 “적당히 매끄러운 해”의 언어이고, 그 가정이 물리적으로 틀린 문제에서는 다른 공간으로 갈아타야 한다.⁴

8. 관련 문서

• 유한요소법 · 갤러킨 방법 · 불연속 갤러킨법
• 변분법 · 편미분방정식 · 포아송 방정식
• 유계 변동 함수 · 라돈 측도 · 전변분 감소
• 유한요소 전자기 · 혼합 유한요소법 · 스토크스 유동
• 적응 격자 세분화 · 다중격자법 · 영역 분할법
• 경계 조건 · 힐베르트 공간 · 푸앵카레 부등식

9. Footnotes

1. 표기에 얽힌 역사적 잔재가 하나 있다. 예전에는 $C^\infty$ 함수의 폐포로 정의한 $H^{k,p}$ 와 약도함수로 정의한 $W^{k,p}$ 를 구분해서 썼는데, 마이어스와 세린이 1964년에 둘이 같음을 증명했다. 논문 제목이 그냥 “H = W” 다. 세 글자짜리 제목으로 학계의 표기 논쟁을 종결시킨 보기 드문 사례. ↩

2. 조각별 1차 함수는 요소 경계에서 기울기가 점프하지만 함수 자체는 연속이므로 약도함수가 조각별 상수 함수로 멀쩡히 존재한다. 반면 요소 사이에서 함수값 자체가 점프하면 약도함수에 델타가 끼어 $H^1$ 을 벗어난다 — “적합(conforming) 요소는 $C^0$ 연속이어야 한다”는 교과서 규칙의 정체가 이것이다. 4계 문제(판·쉘)가 $H^2$ 를 요구해 $C^1$ 요소를 만들어야 하고, 그게 지옥이라 결국 혼합법이나 비적합 요소로 도망가는 것도 같은 논리의 연장이다. ↩

3. 그래서 “2차 요소로 바꿨는데 왜 차수가 안 나오죠”라는 질문의 답은 대개 요소가 아니라 해에 있다. 모서리·재진입각·물성 점프가 있으면 $|u|_{H^{k+1}}$ 자체가 무한대라 우변이 애초에 의미가 없다. 정리를 탓하기 전에 참해의 정칙성을 먼저 의심하는 것이 예의다. ↩

4. 물론 반대 방향의 사고도 유효하다. 해가 실제로 매끄러운 문제에서는 소볼레프보다 더 좋은 공간(해석적 정칙성)을 가정하고 스펙트럴 방법으로 지수 수렴을 노린다. 요컨대 공간을 고르는 일은 “해가 얼마나 거친가”에 대한 베팅이고, 유한요소법은 그 스펙트럼의 한가운데에 자리를 잡은 타협안이다. ↩