양자 몬테카를로

계산물리 양자화학 마지막 수정: 2026-07-06 04:49:36

양자 몬테카를로 Quantum Monte Carlo
약칭	QMC
분야	양자화학 × 계산물리 × 통계역학
핵심 기법	변분 QMC(VMC), 확산 QMC(DMC), 중요도 샘플링
고질적 난제	부호 문제(sign problem)

1. 개요[편집]

슈뢰딩거 방정식을 정면으로 풀 수 없다면, 주사위를 던져서 우회하면 된다.

양자 몬테카를로(Quantum Monte Carlo, QMC)는 몬테카를로 방법의 무작위 표본추출을 이용해 다체 양자계의 슈뢰딩거 방정식을 근사적으로 푸는 계산 기법의 총칭이다. 전자가 여럿인 계의 파동함수는 입자 수에 따라 차원이 지수적으로 폭발하는데, 이 고차원 적분을 결정론적 격자로 다루면 이른바 “차원의 저주”에 걸린다. QMC는 이 적분을 무작위 표본의 통계 평균으로 치환해 저주를 우회한다.¹

QMC의 가장 큰 미덕은 정확도다. 잘 설계된 확산 QMC는 전자 상관(electron correlation)을 매우 충실하게 담아내, 종종 밀도범함수이론이나 표준 하트리-폭 방법보다 참값에 가까운 에너지를 준다. 그 대가는 무자비한 계산 비용이며, 그래서 QMC는 흔히 “정확도의 황금 표준을 원하는 자가 지불하는 대가”로 불린다.

2. 변분 몬테카를로 (VMC)[편집]

가장 기본적인 형태는 변분 몬테카를로(Variational Monte Carlo)다. 변분 원리에 따라, 어떤 시행파동함수 $\psi_T$ 에 대한 해밀토니안의 기대값은 항상 참된 바닥상태 에너지 이상이다.

E_V = \frac{\int \psi_T^* \hat{H} \psi_T \, d\mathbf{R}}{\int |\psi_T|^2 \, d\mathbf{R}} \geq E_0

이 고차원 적분을 직접 계산하는 대신, 확률밀도 $|\psi_T|^2$ 를 따르는 표본들을 메트로폴리스 알고리즘으로 생성하고, 각 표본점에서의 국소 에너지 $E_L(\mathbf{R}) = \hat{H}\psi_T / \psi_T$ 의 평균을 취한다. 시행파동함수 안의 변분 파라미터를 조정해 $E_V$ 를 최소화하면 바닥상태에 근접한다. VMC의 품질은 전적으로 $\psi_T$ 를 얼마나 영리하게 고르느냐에 달려 있다.²

3. 확산 몬테카를로 (DMC)[편집]

변분법이 시행파동함수의 질에 발목 잡힌다면, 확산 몬테카를로(Diffusion Monte Carlo)는 그 한계를 넘어서려 한다. 핵심 아이디어는 허수 시간 $\tau = it$ 에서의 슈뢰딩거 방정식이 확산 방정식과 같은 형태를 띤다는 점이다.

-\frac{\partial \Psi}{\partial \tau} = (\hat{H} - E_T)\,\Psi

이 방정식을 시간에 따라 발전시키면 들뜬 상태 성분이 지수적으로 감쇠하고 바닥상태만 살아남는다. 이를 확률 과정으로 해석해, 워커(walker)라 불리는 표본들이 확산·표류하고 개체 수가 늘거나 줄어드는 과정으로 시뮬레이션한다. 여기에 시행파동함수를 이용한 중요도 샘플링(importance sampling)을 결합하면 분산이 극적으로 줄어, DMC를 실용 가능한 정확도로 끌어올린다.

4. 부호 문제[편집]

QMC를 이야기하면서 부호 문제(sign problem)를 빼놓을 수 없다. 페르미온(전자)의 파동함수는 입자 교환에 대해 반대칭이어서 양수와 음수 영역을 함께 가지는데, 확률해석은 근본적으로 음수 확률을 다룰 수 없다. 서로 다른 부호의 기여가 통계적으로 상쇄되면서, 신호 대 잡음비가 입자 수와 시간에 따라 지수적으로 나빠진다. 이것이 페르미온 부호 문제다.³

가장 널리 쓰이는 회피책은 고정 노드(fixed-node) 근사다. 시행파동함수가 정하는 마디면(node, 파동함수가 0이 되는 초곡면)을 워커가 넘지 못하도록 가둬, 각 영역 안에서는 부호가 일정하게 유지되도록 하는 방법이다. 대가로 마디면의 위치는 시행파동함수의 정확도에 의존해 고정되므로, 결과는 참값에 대한 상한이 된다. 부호 문제 자체는 계산 복잡도 측면에서 일반적으로 NP-난해로 알려져 있어, 만능 해법은 존재하지 않는다.

5. 다른 방법과의 비교[편집]

방법	상관 에너지 정확도	계산 비용 스케일링	주된 약점
하트리-폭 방법	상관 거의 무시	낮음	전자 상관 결여
밀도범함수이론	범함수 의존	낮음~중간	범함수 선택·밴드갭
변분 QMC (VMC)	중간~높음	중간	시행파동함수 의존
확산 QMC (DMC)	매우 높음	높음	부호 문제·비용

QMC의 또 다른 매력은 병렬화가 거의 완벽하다는 점이다. 워커들이 서로 독립적으로 움직이므로 슈퍼컴퓨터의 수만 코어에 자연스럽게 흩뿌릴 수 있어, 대규모 병렬 계산과 궁합이 매우 좋다.

6. 현업에서의 현실[편집]

DMC 결과의 최종 정확도는 결국 시행파동함수의 마디면 품질이 좌우한다. 좋은 $\psi_T$ 를 얻으려 밀도범함수이론이나 다체 이론 계산을 먼저 돌리는 것이 보통이다.
통계 오차는 표본 수 $N$ 에 대해 $1/\sqrt{N}$ 로만 줄어든다. 오차를 절반으로 줄이려면 계산을 네 배 해야 한다는 뜻. 무한한 인내심이 요구된다.
시간 스텝 $\tau$ 를 유한하게 잡은 데서 오는 편향(time-step error)이 있어, 여러 스텝 값으로 계산한 뒤 0으로 외삽해야 한다.
“왜 이렇게 오래 걸리냐”는 질문에는, “이게 원래 정확도의 값이다”라고 답할 수밖에 없다.

7. 관련 문서[편집]

몬테카를로 적분의 통계 오차는 적분 차원과 무관하게 $1/\sqrt{N}$ 로 줄어든다. 반면 격자 기반 결정론적 적분은 차원 $d$ 에 대해 비용이 지수적으로 늘어난다. 고차원에서 주사위가 격자를 이기는 이유가 바로 이것이다. ↩
전자쌍의 상관을 담는 Jastrow 인자와 반대칭성을 담는 Slater 행렬식을 곱한 Slater-Jastrow 형태가 표준적인 시행파동함수다. 여기에 backflow 변환 등을 더해 마디면을 개선하는 것이 정확도 향상의 왕도다. ↩
부호 문제는 “양자 다체 문제가 왜 이렇게 어려운가”의 핵심에 있는 난제다. 이것만 일반적으로 풀 수 있다면 상온 초전도체 설계부터 고온 초전도 메커니즘 규명까지 단숨에 열릴 것이라는 농담 반 진담 반의 이야기가 있다. ↩