콘-샴 방정식

양자화학 계산물리 마지막 수정: 2026-07-13 04:22:30

1. 개요[편집]

콘-샴 방정식(Kohn-Sham equations)은 서로 밀치락달치락하는 다전자계의 바닥상태를, 그것과 똑같은 전자 밀도를 주는 가상의 “상호작용하지 않는 전자계”로 갈아치워 푸는 방정식이다. 밀도범함수이론(DFT)의 실전 엔진이라고 보면 된다. 원래 다전자 슈뢰딩거 방정식은 전자 $N$ 개가 서로 쿨롱 힘으로 얽혀 있어 $3N$ 차원 파동함수를 다뤄야 하는데, 전자가 조금만 많아져도 계산량이 지수적으로 폭발한다.¹ 콘과 샴은 1965년, 이 골치 아픈 상호작용 문제를 “각 전자가 유효 퍼텐셜 속에서 홀로 움직이는” 1전자 문제 $N$ 개로 환원하는 사기적인 우회로를 제시했다.²

핵심 아이디어는 이렇다. 실제로는 전자들이 서로를 밀어내지만, 그 복잡한 상호작용의 효과를 몽땅 유효 퍼텐셜 하나에 욱여넣으면, 겉보기엔 자유로운 전자들이 그 퍼텐셜 속에서 만들어내는 밀도가 진짜 시스템의 밀도와 같아지도록 만들 수 있다. 밀도만 맞으면 호엔베르크-콘 정리에 의해 바닥상태 에너지를 포함한 모든 물리량이 원리적으로 재현된다. 다전자 문제를 밀도 하나로 축소한 것이다.

2. 상호작용하지 않는 참조계[편집]

콘-샴 방정식은 다음과 같은 1전자 고유값 방정식 꼴이다.

\left[ -\frac{\hbar^2}{2m}\nabla^2 + v_{\text{eff}}(\mathbf{r}) \right] \psi_i(\mathbf{r}) = \varepsilon_i\, \psi_i(\mathbf{r})

여기서 $\psi_i$ 가 콘-샴 궤도(Kohn-Sham orbital), $\varepsilon_i$ 가 콘-샴 고유값이다. 전자 밀도는 채워진 궤도들의 제곱합으로 재구성된다.

n(\mathbf{r}) = \sum_{i=1}^{N} \left| \psi_i(\mathbf{r}) \right|^2

형태만 보면 하트리-폭 방법의 1전자 방정식과 쌍둥이처럼 닮았다. 다만 결정적 차이가 있다. 하트리-폭은 파동함수를 하나의 슬레이터 행렬식으로 근사하는 근사 파동함수 이론이고, 콘-샴은 (교환-상관 범함수만 정확하다면) 원리적으로 정확한 밀도를 주는 이론이라는 점이다. 콘-샴 궤도와 고유값 자체는 수학적 도구일 뿐 엄밀한 물리적 의미(진짜 전자의 파동함수·에너지)를 갖지 않는다는 점도 자주 오해되는 대목이다.³

3. 유효 퍼텐셜의 삼분할[편집]

모든 마법은 유효 퍼텐셜 $v_{\text{eff}}$ 에 들어 있다. 이건 세 조각으로 나뉜다.

v_{\text{eff}}(\mathbf{r}) = v_{\text{ext}}(\mathbf{r}) + v_{H}(\mathbf{r}) + v_{xc}(\mathbf{r})

외부 퍼텐셜 $v_{\text{ext}}$ : 원자핵이 전자에 가하는 인력. 계의 정체성(무슨 분자·결정인지)을 규정하는 항이다. 실전에서는 유사퍼텐셜로 대체해 내각 전자를 뭉뚱그리는 경우가 많다.
하트리 퍼텐셜 $v_H$ : 전자 밀도가 만드는 평균적인 쿨롱 반발. 포아송 방정식을 풀어 얻는다.
교환-상관 퍼텐셜 $v_{xc}$ : 나머지 전부. 양자역학적 교환(exchange)과 상관(correlation) 효과를 몰아넣은 항이다.

앞의 두 항은 정확히 계산할 수 있다. 문제는 세 번째, 교환-상관 범함수다. 이 항의 정확한 형태는 아무도 모른다. 콘-샴 방정식 자체는 엄밀하지만, 실제 계산의 정확도는 전적으로 $v_{xc}$ 를 얼마나 잘 근사하느냐에 달려 있다. LDA, GGA, 메타-GGA, 하이브리드로 이어지는 “야콥의 사다리”가 바로 이 근사의 계보다.⁴

4. 자체무모순장(SCF) 반복[편집]

여기에 닭이 먼저냐 달걀이 먼저냐 하는 순환 문제가 있다. 콘-샴 방정식을 풀려면 $v_{\text{eff}}$ 를 알아야 하는데, $v_{\text{eff}}$ 는 밀도 $n(\mathbf{r})$ 에 의존하고, 그 밀도는 방정식을 풀어야 나오는 궤도 $\psi_i$ 로부터 계산된다. 즉 답을 알아야 답을 구할 수 있다.

이 순환은 자체무모순장(Self-Consistent Field, SCF) 반복으로 깬다.

초기 밀도 $n^{(0)}$ 을 적당히 추측한다(원자 밀도 중첩 등).
그 밀도로 $v_{\text{eff}}$ 를 만든다.
콘-샴 방정식을 고유값 문제로 풀어 새 궤도와 새 밀도 $n^{(1)}$ 을 얻는다.
새 밀도가 이전 밀도와 충분히 같아질 때까지 2~3을 반복한다.

수렴이 순순히 될 리 없다. 새 밀도를 그대로 다음 반복에 넣으면 진동하며 발산하기 일쑤라, 이전 밀도와 섞는 밀도 혼합(density mixing) 기법이 필수다. 널리 쓰이는 것이 풀레이(Pulay)의 DIIS다. SCF가 수렴하면 그 밀도가 바닥상태 밀도이고, 총에너지·힘·응력 같은 물리량을 여기서 뽑는다. DFT 계산에서 “수렴 안 된다”는 비명의 절반은 이 SCF 루프에서 나온다.⁵

5. 무엇을 얻고 무엇을 못 얻나[편집]

콘-샴 DFT는 원자·분자·고체의 바닥상태 성질을 준수한 정확도로, 하트리-폭보다 훨씬 싼값(전자 수 $N$ 에 대해 대략 $N^3$ )에 내놓는다. 결합 길이, 격자 상수, 응집 에너지, 진동 주파수, 밴드 구조 계산의 골격 등이 그 결과물이다. 오늘날 재료과학·촉매·신약 설계에서 계산 도구의 사실상 표준이 된 이유다.

반면 태생적 한계도 뚜렷하다. 표준 근사 범함수는 반도체·절연체의 밴드갭을 심하게 과소평가하고(악명 높은 “밴드갭 문제”), 반데르발스 분산력이나 강상관 전자계(전이금속 산화물 등)를 제대로 못 다룬다. 게다가 콘-샴 고유값은 원리적으로 들뜬 상태 에너지가 아니어서, 광학적 성질을 보려면 시간의존 DFT(TDDFT)나 GW 근사 같은 상위 이론으로 넘어가야 한다. 그럼에도 “정확도 대비 비용” 곡선에서 콘-샴 DFT를 이길 방법론은 아직 드물다.

6. 관련 문서[편집]

이걸 월터 콘 본인이 “지수 장벽(exponential wall)“이라 불렀다. 전자 100개짜리 파동함수를 격자에 저장하려면 우주의 원자 수보다 많은 숫자가 필요하다는, 그 유명한 계산이 여기서 나온다. ↩
Kohn, W., & Sham, L. J. (1965). “Self-Consistent Equations Including Exchange and Correlation Effects.” Physical Review, 140(4A), A1133. 이 공로로 월터 콘은 1998년 노벨 화학상을 받았다. 물리학자가 화학상을 받은 대표 사례. ↩
그래서 콘-샴 궤도로 화학 결합을 논하는 건 원칙적으로 반칙인데, 실무에서는 다들 아무렇지 않게 HOMO/LUMO를 그려 쓴다. “물리적 의미는 없지만 그림은 예쁘다”가 이 바닥의 공공연한 비밀. ↩
존 퍼듀(John Perdew)의 비유. LDA를 지상, 정확한 범함수를 천국(화학적 정확도)에 두고 그 사이를 오르는 사다리라는 뜻. 위 단계로 갈수록 정확하지만 비싸진다. 다만 사다리를 오른다고 항상 정확해지는 건 아니라는 게 이 분야의 유머 포인트. ↩
금속처럼 페르미 준위 근처에 상태가 빽빽한 계는 특히 SCF가 잘 안 붙는다. 이럴 땐 전자 온도를 인위로 올리는 스미어링(smearing)으로 달래는데, 이 역시 상태밀도와 직결되는 이야기다. ↩