유한요소법

1. 개요

유한요소법 Finite Element Method
약칭	FEM
분야	수치해석 · 이산화 기법
핵심 아이디어	약형식 + 형상함수 기반 근사
명명	R. W. Clough (1960)
주 사용처	구조해석, 전자기해석, 일부 유체 코드

유한요소법(Finite Element Method, FEM)은 해석 도메인을 유한 개의 요소(element)로 분할하고, 미지 함수를 요소 위에 정의된 형상함수(shape function)들의 선형결합으로 근사한 뒤, 지배 방정식의 잔차가 가중함수에 대해 직교하도록 하는 조건으로 대수방정식을 얻는 이산화 기법이다. 미분방정식을 그대로 만족시키는 대신 적분 의미에서 만족시키는 약형식(weak form)에 기반한다는 점이 유한차분법과의 근본적 차이다. 구조해석의 사실상 유일한 표준이며, 전자기해석에서도 주력 기법이다. 유체에서는 유한체적법에 밀려 소수파지만, 수학적 기반이 탄탄해 오차 해석이 엄밀하다는 점에서 수학자들의 편애를 받는다.¹

2. 약형식과 가중잔차법

미분방정식 $R(\phi) = 0$을 모든 점에서 강제하는 대신(강형식, strong form), 가중함수 $w$를 곱해 도메인 전체에서 적분한 값이 0이 되도록 요구한다.

$$\int_\Omega w \, R(\phi) \, d\Omega = 0$$

이것이 가중잔차법(method of weighted residuals)이다. 여기에 부분적분(다차원에서는 발산정리)을 적용해 미분 차수를 낮추면 약형식이 된다. 예를 들어 확산 방정식 $\nabla \cdot (\Gamma \nabla \phi) + S = 0$의 약형식은

$$\int_\Omega \nabla w \cdot \Gamma \nabla \phi \, d\Omega = \int_\Omega w S \, d\Omega + \oint_{\partial\Omega} w \, \Gamma \nabla\phi \cdot \mathbf{n} \, dS$$

가 된다. 약형식의 실익은 두 가지다. 첫째, 해에 요구되는 미분 가능성이 한 차수 낮아져 1차(선형) 요소 같은 소박한 근사도 쓸 수 있다. 정확히 말하면 해를 $C^1$ 함수가 아니라 소볼레프 공간 $H^1$에서 찾게 되고, 요소 경계에서 기울기가 꺾이는 조각별 선형 함수가 정당한 후보가 된다. 둘째, 부분적분에서 튀어나온 경계 적분항 덕분에 노이만(Neumann) 계열 경계 조건이 별도 처리 없이 정식화에 자연스럽게 편입된다. 그래서 이를 자연 경계 조건(natural boundary condition)이라 부른다. 반대로 디리클레 조건은 해 공간 자체에 강제로 박아 넣어야 해서 필수 경계 조건(essential boundary condition)이라 부른다.

3. 갤러킨 방법과 형상함수

미지 함수는 절점(node) 값과 형상함수의 선형결합으로 근사한다.

$$\phi(\mathbf{x}) \approx \sum_{j=1}^{N} N_j(\mathbf{x}) \, \phi_j$$

형상함수 $N_j$는 자신의 절점에서 1, 다른 절점에서 0의 값을 갖고, 해당 절점을 포함하는 요소들 안에서만 0이 아닌 국소 다항식이다. 이 국소성 덕분에 최종 행렬이 희소행렬이 된다. 선형 요소, 2차 요소 등 다항식 차수를 올리면 정확도도 체계적으로 올라간다.

가중함수 $w$를 무엇으로 잡느냐에 따라 가중잔차법의 유파가 갈리는데, 형상함수를 그대로 가중함수로 쓰는 것($w = N_i$)이 갤러킨 방법이다. 자기수반(self-adjoint) 연산자를 갖는 문제에서 갤러킨 방법은 변분법의 에너지 최소화 원리와 동치가 되며, 에너지 노름 기준 최적 근사라는 강력한 성질을 갖는다. 구조역학의 언어로 번역하면 “가상일의 원리”가 된다.

3.1. 왜 오차 해석이 엄밀한가

이 최적성이 FEM 수렴 이론의 출발점이다. 세아(Céa)의 보조정리는 강제성(coercivity) 상수 $\alpha$와 유계성 상수 $M$에 대해

$$\|u - u_h\|_{H^1} \le \frac{M}{\alpha} \inf_{v_h \in V_h} \|u - v_h\|_{H^1}$$

임을 말한다. 즉 갤러킨 해의 오차는 그 유한차원 공간이 낼 수 있는 최선의 근사 오차와 상수배 이내로 붙어 있다. 남은 일은 순수한 보간 오차를 재는 것이고, 차수 $p$ 요소와 격자 크기 $h$에 대해 $\|u-u_h\|_{H^1} \le C h^{p}|u|_{H^{p+1}}$, $L^2$ 노름으로는 한 차수 더 좋은 $\mathcal{O}(h^{p+1})$이 나온다. 유한차분법의 절단오차 논증이 테일러 전개에서 끝나는 것과 달리, FEM은 이렇게 해의 매끄러움 정도($|u|_{H^{p+1}}$)와 수렴 차수를 직접 연결한다. 해에 특이점이 있어 이 반노름이 폭발하면 차수가 떨어진다는 것까지 이론이 예측하며, 그 대응책이 hp-적응이다.

4. 강성행렬 조립

약형식에 근사식을 대입하면 절점 값에 대한 연립 대수방정식이 나온다.

$$\mathbf{K}\boldsymbol{\phi} = \mathbf{f}, \qquad K_{ij} = \int_\Omega \nabla N_i \cdot \Gamma \nabla N_j \, d\Omega$$

계수 행렬 $\mathbf{K}$를 강성행렬(stiffness matrix)이라 부르는데, 이 이름 자체가 FEM의 구조역학 태생을 증언한다.² 실제 계산은 요소 단위로 이루어진다. 각 요소에서 가우스 구적법(Gauss quadrature)으로 요소 행렬을 수치 적분한 뒤, 전역 절점 번호에 맞춰 큰 행렬에 더해 넣는 조립(assembly) 과정을 거친다. 자기수반 문제에서 강성행렬은 대칭 양의 정부호가 되어, 켤레기울기법 같은 효율적인 반복 솔버를 그대로 꽂을 수 있다.

적분 차수를 일부러 낮추는 저감적분(reduced integration)이라는 실무 기법도 있다. 비용을 아끼고 굽힘 문제의 과도한 강성(록킹)을 완화하지만, 에너지를 전혀 생성하지 않는 가짜 변형 모드(모래시계 모드)를 낳아 별도의 억제 항이 필요해진다. 공짜는 없다.

5. 막대 두 개로 조립을 확인하면

선형 막대 요소의 강성은 적분 없이 닫힌다. 단면적 $A$, 영률 $E$, 길이 $L$ 이면 요소 행렬은

$$\mathbf{k}_e = \frac{EA}{L} \begin{bmatrix} 1 & -1 \\ -1 & 1 \end{bmatrix}.$$

막대 두 개를 직렬로 잇고 왼쪽 끝을 고정한 뒤 오른쪽 끝에 축력 $F$ 를 걸면, 고정 절점을 지운 계는 이렇다. 가운데 절점이 $u_2$, 하중 끝 절점이 $u_3$ 다.

$$\frac{EA}{L} \begin{bmatrix} 2 & -1 \\ -1 & 1 \end{bmatrix} \begin{bmatrix} u_2 \\ u_3 \end{bmatrix} = \begin{bmatrix} 0 \\ F \end{bmatrix}.$$

$E = 210\,\mathrm{GPa}$, $A = 100\,\mathrm{mm^2}$, 요소 길이 $0.5\,\mathrm{m}$, $F = 1000\,\mathrm{N}$ 이면 $EA/L = 4.2\times 10^{7}\,\mathrm{N/m}$ 다. 둘째 식에서 $u_3 = u_2 + FL/EA$ 이고 첫째 식에서 $u_3 = 2u_2$ 이므로, 가운데는 $0.0238\,\mathrm{mm}$, 끝은 $0.0476\,\mathrm{mm}$ 다. 응력은 두 요소 모두 $F/A = 10\,\mathrm{MPa}$ 다.

균일 축력의 정확해가 1차 형상함수 안에 들어 있어서, 요소를 더 쪼개도 이 숫자는 안 변한다. 구조해석의 외팔보가 요소 1개로 처짐을 맞추는 것과 같은 이유다. 굽힘, 접촉, 소성으로 가면 이 공짜는 사라진다.

6. 구조해석의 표준인 이유

FEM은 1950~60년대 항공기 구조 설계 현장에서 태동했다. 보잉의 터너(M. J. Turner)와 버클리의 클러프(R. W. Clough) 등이 1956년 발표한 직접강성법 논문이 오늘날 FEM의 출발점으로 꼽히고, “finite element”라는 명칭 자체는 클러프가 1960년 ASCE 전자계산 학술대회에 낸 평면응력 논문에서 처음 쓴 것이다. 구조해석과의 궁합이 좋은 이유는 명확하다.

• 고체역학의 지배 방정식은 대부분 타원형·자기수반이라 갤러킨 방법이 최적 근사를 보장한다.
• 강성행렬이 대칭 양의 정부호라 수치적으로 다루기 쾌적하다.
• 복잡 형상, 복합 재료, 이종 물성 경계를 요소 분할로 자연스럽게 처리한다.
• 응력 집중부만 요소를 세분하는 적응적 해석과 엄밀한 사후 오차 추정 이론이 정비되어 있다.

NASTRAN, Abaqus 등 구조 상용 코드는 예외 없이 FEM이며, 이 바닥에서 “해석한다”는 말은 곧 “FEM 돌린다”와 동의어다.

7. 유체 해석에서의 FEM

유체로 넘어오면 분위기가 달라진다. 나비에-스토크스 방정식의 대류항은 비대칭(비자기수반) 연산자라 위에서 본 갤러킨 최적성이 깨지고, 표준 갤러킨은 중앙차분과 유사한 성격이 되어 대류 지배 유동에서 비물리적 진동을 일으킨다. 그래서 안정화가 필수다.

• SUPG(Streamline-Upwind Petrov-Galerkin): 가중함수를 유선 방향으로 치우치게 변형해 상류도식 효과를 주는 기법. 가중함수와 형상함수가 달라지므로 Petrov-Galerkin이라 부른다. 브룩스와 휴스(1982)의 정식화가 표준이며, 잔차에 비례하는 항만 더하므로 정확한 해에서는 안정화 항이 0이 되어 정확도 차수를 깎지 않는다는 것이 핵심 미덕이다.
• PSPG(Pressure-Stabilizing Petrov-Galerkin): 비압축성 유동에서 속도-압력 보간 조합이 inf-sup 조건(바부슈카-브레치 조건, LBB)을 만족하지 못하면 압력장이 체스판처럼 얼룩지는데, PSPG는 이를 억제해 속도와 압력에 같은 차수의 보간을 쓸 수 있게 한다. 안정화를 쓰지 않는다면 Taylor-Hood(속도 2차·압력 1차)처럼 inf-sup을 만족하는 요소쌍을 골라야 한다.³

이런 안정화 항들이 주렁주렁 붙어야 돌아간다는 점, 그리고 국소 보존성이 유한체적법만큼 명시적이지 않다는 점이 유체 시장에서 FEM이 밀린 주요 원인이다.⁴ 다만 다물리 연성을 노리는 FEM 기반 상용 코드가 건재하고, 고차 정확도와 국소 보존성을 겸비한 불연속 갤러킨법이 차세대 CFD 후보로 활발히 연구되고 있다.

8. 다른 이산화 기법과의 비교

항목	유한차분법 (FDM)	유한체적법 (FVM)	유한요소법 (FEM)
수학적 기반	테일러 급수	적분형 보존식	약형식·가중잔차
격자	구조 격자 필수	비정렬 가능	비정렬 가능
보존성	보장 안 됨	국소 보존	전역 보존(국소는 별도)
오차 해석	절단오차 기반	절단오차 기반	함수해석학 기반, 엄밀
주 무대	DNS, 학술 연구	산업 CFD	구조·전자기·다물리

9. 이 다음 30분

• 구조해석 — 막대 다음으로 외팔보를 요소 1개로 검산하는 숫자.
• 강성행렬 — 위에서 손으로 더한 $2$ 가, 요소가 수천 개일 때 어디에 쌓이는지.
• 감소 적분과 모래시계 제어 — 이 막대에는 없는 가짜 변형 모드.
• 갤러킨 방법 — 약형식에서 행렬이 나오는 과정.
• 전자기해석 — 같은 조립이 모서리 요소로 가는 쪽. 셀 수가 주파수로 터지는 계산이 있다.

10. 관련 문서

• 구조해석
• 전자기해석
• 전산유체역학
• 유한체적법 · 유한차분법
• 갤러킨 방법 · 불연속 갤러킨법 · hp-적응
• 소볼레프 공간 · 희소행렬 · 켤레기울기법
• 나비에-스토크스 방정식
• 격자 · 경계 조건

11. Footnotes

1. FDM의 수렴 증명이 공학 수학 수준이라면, FEM의 수렴 이론은 소볼레프 공간과 함수해석학으로 무장하고 있다. 덕분에 FEM 이론서를 펼친 공학도는 1장부터 자신이 수학과에 잘못 입학했나 하는 착각에 빠지게 된다. ↩

2. 구조 문제에서 $\mathbf{K}$는 문자 그대로 구조물의 강성, $\boldsymbol{\phi}$는 변위, $\mathbf{f}$는 하중이다. 열전달을 풀어도, 전자기를 풀어도 행렬 이름은 여전히 강성행렬이다. 출신은 못 속인다. ↩

3. inf-sup 조건은 바부슈카(1971)와 브레치(1974)가 각각 다른 맥락에서 정식화했고, 안정화 없이 속도·압력에 같은 차수 요소를 쓰면 왜 압력이 체스판 무늬로 발진하는지를 설명한다. 이 조건을 모르고 P1-P1 요소를 쓴 뒤 “압력이 이상해요”라고 묻는 것은 FEM 유체 입문자의 통과의례다. ↩

4. 요약하면 구조에서는 방정식이 FEM에 맞춰져 있고, 유체에서는 FEM이 방정식에 맞추느라 고생한다. 도구와 문제의 궁합이란 이런 것이다. ↩