밀도범함수이론

1. 개요

밀도범함수이론 Density Functional Theory
약칭	DFT
분야	양자화학 × 계산물리 × 재료과학
기본 변수	전자 밀도 n(r)
이론적 기반	호엔베르크-콘 정리
대표 소프트웨어	VASP, Quantum ESPRESSO

파동함수는 3N차원이라 못 푼다. 그런데 밀도는 3차원이잖아? — 이 한 문장으로 노벨상을 받았다.

밀도범함수이론(Density Functional Theory, DFT)은 다전자계의 성질을 파동함수 대신 전자 밀도 n(r)를 기본 변수로 삼아 기술하는 양자역학 이론이다. 슈뢰딩거 방정식을 직접 풀려면 전자 $N$개짜리 계에서 $3N$차원 파동함수를 다뤄야 하는 차원의 저주에 부딪히지만, 전자 밀도는 전자가 몇 개든 언제나 3차원 공간의 함수다.¹ 이 발상의 전환이 계산 비용을 천문학적으로 낮췄다.

오늘날 재료과학, 촉매화학, 신약설계, 반도체 물성 예측 등에서 가장 널리 쓰이는 제일원리(first-principles) 계산 도구다. “압도적 상위권”이라는 말은 과장이 아니다 — 2014년 네이처가 톰슨 로이터와 함께 집계한 역대 피인용 상위 100편 목록(진입 기준이 12,119회였다)에 DFT 논문이 여덟 편 들어갔고, 그중 리-양-파 상관 범함수 논문(1988)이 7위, 베케의 하이브리드 논문(1993)이 8위, 아래에서 다룰 PBE(1996)가 16위, 콘-샴(1965)이 34위, 호엔베르크-콘(1964)이 39위였다.² 상위 100편 대부분이 발견이 아니라 방법과 소프트웨어 논문이라는 사실도 이 목록의 성격을 잘 말해 준다. “이론적으로는 엄밀하고, 실제로는 근사에 의존하는” 묘한 이중성이 이 이론의 매력이자 함정이다.

2. 호엔베르크-콘 정리

DFT의 수학적 정당성은 1964년 피에르 호엔베르크와 월터 콘이 증명한 두 개의 정리에서 나온다. 콘은 이 업적으로 1998년 노벨 화학상을 받았다(계산화학 쪽 공로의 존 포플과 공동 수상).

• 제1정리 — 바닥상태의 전자 밀도 n(r)는 외부 퍼텐셜 $V_{\text{ext}}(\mathbf{r})$를 (상수 차이를 빼면) 유일하게 결정한다. 즉 밀도만 알면 원리적으로 계의 모든 것을 알 수 있다. 파동함수라는 어마어마한 정보량이 사실은 3차원 밀도 하나로 압축 가능하다는 충격적인 주장이다.³
• 제2정리 — 에너지를 밀도의 범함수 $E[n]$로 쓸 수 있으며, 진짜 바닥상태 밀도에서 이 범함수가 최솟값을 갖는다. 즉 변분 원리가 성립한다.

문제는 이 정리들이 “그런 범함수가 존재한다”는 것만 보장할 뿐, 그게 어떻게 생겼는지는 알려주지 않는다는 것. 존재는 하는데 정체는 모르는, 수학자들이 좋아하는 그런 종류의 결과다.

3. 콘-샴 방정식

1965년 월터 콘과 루제이 샴은 실용적인 돌파구를 냈다. 상호작용하는 진짜 전자계를, 같은 밀도를 내놓는 상호작용 없는 가상의 보조계로 치환하는 것이다. 이 보조계의 각 전자는 유효 퍼텐셜 $V_{\text{eff}}$ 속에서 움직이는 단일입자 방정식을 따른다:

$$\left[ -\frac{\hbar^2}{2m}\nabla^2 + V_{\text{eff}}(\mathbf{r}) \right] \psi_i(\mathbf{r}) = \varepsilon_i \psi_i(\mathbf{r})$$

여기서 밀도는 채워진 궤도들의 합으로 재구성된다:

$$n(\mathbf{r}) = \sum_{i}^{\text{occ}} |\psi_i(\mathbf{r})|^2$$

그런데 $V_{\text{eff}}$가 밀도 $n$에 의존하고, $n$은 다시 방정식을 풀어야 나온다. 그래서 콘-샴 방정식은 자기무모순장(self-consistent field, SCF) 반복으로 푼다. 초기 밀도를 찍고, 방정식을 풀어 새 밀도를 얻고, 수렴할 때까지 뺑뺑이를 돈다. 전산유체역학에서 잔차 그래프가 내려가길 기도하는 것과 정확히 같은 정신적 고통이 여기에도 있다.

4. 교환상관 범함수

콘-샴의 트릭에는 대가가 있다. 진짜 계와 보조계의 에너지 차이 — 전자들이 서로를 피하며 생기는 교환(exchange)과 상관(correlation) 효과 — 이 전부 하나의 항 $E_{xc}[n]$에 밀어넣어진다. 그리고 이 **교환상관 범함수**의 정확한 형태는 아무도 모른다.⁴ DFT 계산의 정확도는 사실상 이 범함수를 얼마나 잘 근사하느냐에 전부 달려 있다. (범함수 자체의 구성 원리와 등급별 상세는 그 전용 문서가 다룬다.)

근사 등급	이름	사용하는 정보	특징
1단계	LDA	국소 밀도만	단순, 결합에너지 과대평가
2단계	GGA	밀도 + 밀도 구배	PBE 등, 가성비 표준
상위	하이브리드	GGA + 정확한 교환 일부	B3LYP 등, 정확하지만 비쌈

하이브리드 등급에서 “정확한 교환”이란 하트리-폭 방법의 교환 적분을 일정 비율 섞는다는 뜻이다. B3LYP가 20%, PBE0가 25%를 섞는 식으로, 이 비율 자체가 경험적으로 정해진다.

이른바 “야코프의 사다리(Jacob’s ladder)“라 불리는 이 위계는 위로 올라갈수록 정확해지지만 비용도 오른다. 그리고 어떤 사다리를 올라도 밴드갭 과소평가, 반데르발스 힘 부재, 강상관 전자계(모트 절연체·허바드 모형이 다루는 영역) 실패 같은 고질병에서 완전히 자유롭지는 못하다.

4.1. 밴드갭 문제는 범함수 탓만이 아니다

가장 많이 인용되는 실패가 밴드갭 과소평가다. LDA·GGA로 계산한 반도체·절연체의 밴드 구조 갭은 실험값보다 작게 나온다. 퍼듀와 레비가 1983년 논문 초록에서 쓴 표현이 **“약 40% 과소평가”**이고, 이후 문헌들은 보통 3050% 아래 또는 실험값의 4070% 수준이라는 범위로 적는다. 실무에서는 이걸 “DFT가 틀렸다”로 뭉개기 쉬운데, 1983년 퍼듀-레비와 샴-슐뤼터가 각각 보인 결과는 더 미묘하다.

• 정확한 교환상관 범함수를 쓴다 해도, 콘-샴 궤도 에너지 차이는 진짜 밴드갭과 다르다. 콘-샴 갭은 갭의 중심 위치는 맞게 주지만 폭은 과소평가한다.
• 그 차이의 정체는 전자 수가 정수를 지날 때 $E_{xc}$ 의 도함수에 생기는 불연속(derivative discontinuity)이다. 이건 근사의 결함이 아니라 콘-샴 궤도 에너지라는 양 자체의 성질이다.

즉 밴드갭은 “범함수를 더 잘 만들면 해결되는” 문제가 아니라, 어떤 양을 계산하고 있는지를 혼동한 문제다. 그래서 제대로 된 처방은 사다리를 더 오르는 게 아니라 준입자 에너지를 직접 계산하는 GW 근사 같은 다체 섭동론으로 갈아타거나, 결합 클러스터 방법·양자 몬테카를로처럼 다른 계보로 넘어가는 쪽이다. DFT를 “제일원리”라 부르지만, 교환상관 범함수라는 반쯤 경험적인 요소가 섞여 있어 순수주의자들은 이 명칭에 눈살을 찌푸리기도 한다.

5. 계산 비용과 소프트웨어

콘-샴 방정식을 푸는 표준 구현의 계산 비용은 대략 전자 수 $N$의 세제곱, 즉

$$\text{cost} \sim O(N^3)$$

에 비례한다. 궤도들을 서로 직교화하는 과정이 이 삼차 스케일링의 주범이다. 수백~수천 원자까지는 현실적이지만, 수만 원자 이상의 계는 여전히 벅차서 선형 스케일링 DFT나 준경험적 기법으로 우회한다. 주기계를 다루므로 주기경계조건과 장거리 쿨롱 합의 처리(에발트 합산)가 기본으로 들어가고, 실제 생산 계산은 대부분 병렬 컴퓨팅·GPU 컴퓨팅 위에서 돌아간다.

주요 소프트웨어는 다음과 같다.

• VASP — 평면파 기저 기반의 상용 표준. 재료과학계에서 사실상 공용어. 라이선스가 비싸기로도 유명하다.
• Quantum ESPRESSO — 오픈소스 평면파 코드. 공짜지만 입력 파일 앞에서 사용자의 정신력이 시험당한다.
• Gaussian, ORCA — 분자 화학용 국소 기저함수 코드. 주기계가 아닌 분자를 다룰 때 평면파보다 유리하다.
• 이들 대부분이 원자핵 근처의 급격한 파동함수를 부드럽게 대체하는 유사퍼텐셜(pseudopotential) 기법을 쓴다.

6. 재료·촉매에서의 위상

DFT는 실험 없이 물질의 성질을 예측하는 “계산 현미경” 역할을 한다. 새로운 배터리 전극 후보 물질의 전압을 미리 계산하고, 촉매 표면에서 반응물이 얼마나 잘 붙는지(흡착 에너지)를 따지고, 미지의 결정 구조가 안정한지를 판정한다. 머티리얼스 프로젝트(Materials Project) 같은 대규모 물성 데이터베이스는 수십만 개 물질에 대한 DFT 계산 결과를 쌓아두고 있으며, 최근에는 이 데이터로 기계학습 퍼텐셜을 훈련시켜 분자동역학의 정확도와 속도를 동시에 잡으려는 시도가 활발하다. DFT가 라벨을 만들고, 학습된 퍼텐셜이 그 라벨을 수천 배 빠르게 재생하는 분업이다.

요컨대 DFT는 슈뢰딩거 방정식의 이상과 현실적 계산 가능성 사이에서 인류가 찾아낸 가장 성공적인 타협점이다. 완벽하진 않지만, 없으면 재료 연구가 멈춘다.

7. 관련 문서

• 슈뢰딩거 방정식
• 양자역학
• 분자동역학
• 몬테카를로 방법
• 변분법
• 콘-샴 방정식 · 교환-상관 범함수 · 전자 상관
• 하트리-폭 방법 · 결합 클러스터 방법 · 양자 몬테카를로
• 평면파 기저 · 유사퍼텐셜 · 밴드 구조 계산
• 모트 절연체 · 허바드 모형

8. Footnotes

1. 이 발상 자체는 1927년 토머스-페르미 모형까지 거슬러 올라간다. 다만 당시엔 너무 조악해서 화학 결합조차 제대로 설명하지 못했고, 호엔베르크-콘 정리가 나오고서야 엄밀한 이론적 토대를 얻었다. ↩

2. 진입 기준 12,119회라는 숫자가 이 목록의 살벌함을 말해 준다. 노벨상을 받은 발견 논문 상당수가 여기 못 든다. 1위는 1951년에 나온 단백질 정량 분석법 논문이고(30만 회 이상), 상위권 대부분이 “모두가 쓰는 도구”를 만든 방법론 논문이다. DFT 논문 여덟 편이 여기 끼어 있다는 건 이 이론이 도구로서 얼마나 광범위하게 쓰이는지를 보여 준다. 참고로 피인용 수는 2014년 집계 기준이라 지금은 더 올라갔고 순위도 바뀌었을 수 있다. ↩

3. 직관적으로는 말이 안 되는 것 같다. 파동함수는 $3N$차원 함수인데 그 모든 정보가 3차원 밀도에 담겨 있다니? 하지만 밀도의 뾰족한 봉우리(cusp) 위치가 원자핵 위치를, 그 봉우리의 기울기가 원자번호를 알려주는 식으로, 밀도는 생각보다 많은 것을 품고 있다. 정확히는 카토 첨점 조건이다 — 핵 근처에서 구면평균한 밀도가 $\lim_{r\to 0}\frac{\partial \bar n}{\partial r} = -2Z\,\bar n(0)$ 을 만족한다(원자 단위). 수소꼴 1s 밀도 $n(r)=(Z^3/\pi)e^{-2Zr}$ 로 재 보면 기울기/밀도 비가 $Z$ = 1, 2, 6, 8, 26에서 각각 −2.000000, −4.000, −12.000, −16.000, −52.000 으로 정확히 $-2Z$ 다. 봉우리의 “높이”로 원자번호를 읽는다고 쓰면 부정확하다 — 높이 $n(0)=Z^3/\pi$ 도 $Z$ 에 단조이긴 하지만, 분자 안에서는 이웃 원자의 밀도 꼬리가 겹쳐 높이가 오염된다. 기울기 비는 $r\to 0$ 극한이라 그 오염을 받지 않고, 그래서 카토 조건이 “밀도가 외부 퍼텐셜을 안다”는 논증의 실제 도구로 쓰인다. 남은 하나인 전자 수는 $N=\int n\,d^3r$ 로 적분해서 얻는다. ↩

4. 만약 정확한 교환상관 범함수를 아는 사람이 있다면, 그는 다전자 슈뢰딩거 방정식을 사실상 정확히 푼 것이 된다. 즉 이 범함수의 정확한 형태를 찾는 것은 원래 문제만큼 어렵다. 우리는 문제를 푼 게 아니라 어려움을 한 항에 몰아넣었을 뿐이다. ↩