VASP

양자화학 계산물리 마지막 수정: 2026-07-07 16:53:41

VASP Vienna Ab initio Simulation Package
분야	양자화학 × 계산물리 × 재료과학
기반 이론	밀도범함수이론 (DFT)
기저 함수	평면파 (plane wave)
개발	빈 대학교 (Hafner, Kresse 그룹)
라이선스	상용 (유료)

1. 개요[편집]

“재료의 성질을 계산으로 알아냈다”는 논문의 뒤에는 높은 확률로 VASP의 INCAR 파일이 숨어 있다.

VASP(Vienna Ab initio Simulation Package)는 오스트리아 빈 대학교에서 개발한, 평면파(plane wave) 기저와 유사퍼텐셜을 사용하는 밀도범함수이론 기반의 제일원리(ab initio) 전자 구조 계산 코드다. 주기적 경계 조건을 자연스럽게 다루기 때문에 결정·금속·표면·나노구조 같은 응집물질계 계산에서 사실상 업계 표준의 지위를 차지한다.

“제일원리”란 실험 파라미터 없이 슈뢰딩거 방정식에서 출발한다는 뜻이다. 물론 완전한 다전자 슈뢰딩거 방정식은 풀 수 없으므로, VASP는 이를 밀도범함수이론의 콘-샴(Kohn-Sham) 방정식으로 바꿔 푼다. 전자 밀도만 알면 계의 모든 것을 안다는 호엔베르크-콘 정리가 이 모든 마법의 이론적 근거다.¹

2. 왜 평면파인가[편집]

VASP를 특징짓는 첫 번째 선택은 기저 함수다. 분자 양자화학 코드(Gaussian 등)가 원자 중심의 국소 기저를 쓰는 것과 달리, VASP는 공간 전체에 퍼진 평면파를 기저로 삼는다.

\psi_{n\mathbf{k}}(\mathbf{r}) = \sum_{\mathbf{G}} c_{n\mathbf{k},\mathbf{G}} \, e^{i(\mathbf{k}+\mathbf{G})\cdot\mathbf{r}}

여기서 $\mathbf{G}$ 는 역격자 벡터, $\mathbf{k}$ 는 브릴루앙 영역의 파수다. 평면파는 주기계에 완벽히 들어맞고, 기저의 완전성을 단 하나의 파라미터, 즉 컷오프 에너지 $E_{\text{cut}}$ 로 제어할 수 있다는 장점이 있다.

\frac{\hbar^2}{2m}|\mathbf{k}+\mathbf{G}|^2 \leq E_{\text{cut}}

값을 키우면 정확해지고 느려진다. 완전성이 단조롭게 개선되므로 수렴 검사가 깔끔하다는 것이 국소 기저 대비 큰 미덕이다. 대신 코어 근처의 급격한 파동함수를 평면파로 표현하려면 천문학적 컷오프가 필요하다는 치명적 문제가 있는데, 이걸 해결하는 것이 다음의 유사퍼텐셜이다.

3. 유사퍼텐셜과 PAW[편집]

핵 근처에서 파동함수는 사납게 진동한다. 이를 그대로 평면파로 펴려면 컷오프가 폭발한다. 해법은 화학 결합에 관여하지 않는 코어 전자를 명시적으로 다루지 않고, 원자가 전자가 느끼는 부드러운 유효 퍼텐셜로 대체하는 것이다. 이것이 유사퍼텐셜(pseudopotential)이다.

VASP는 역사적으로 여러 유사퍼텐셜을 거쳤고, 오늘날 표준은 PAW(Projector Augmented-Wave)법이다. PAW는 부드러운 유사 파동함수와 정확한 전(all-electron) 파동함수를 변환 연산자로 잇는 영리한 방식으로, 유사퍼텐셜의 효율과 전전자 계산의 정확성을 절충한다.²

방식	정확도	컷오프	전이금속·산소
노름 보존	높음	매우 큼	무겁다
울트라소프트(US)	중간	작음	양호
PAW	높음	작음	우수 (권장)

4. 계산 흐름과 입력 파일[편집]

VASP 사용자는 네 개의 입력 파일과 평생 씨름한다. 이 파일들의 조합이 곧 계산의 전부다.

INCAR — 계산 방법과 파라미터를 지정하는 두뇌 역할. 범함수(PBE, SCAN 등), 스핀, 정밀도, 이온 이완 여부 등.
POSCAR — 결정 구조. 격자 벡터와 원자 좌표.
POTCAR — 사용할 유사퍼텐셜 데이터.
KPOINTS — 브릴루앙 영역 적분을 위한 $\mathbf{k}$ 점 격자.

계산의 심장은 콘-샴 방정식을 자기무장(self-consistent) 방식으로 푸는 SCF 반복이다. 초기 전자 밀도로 유효 퍼텐셜을 만들고, 그것으로 파동함수를 갱신하고, 새 밀도를 얻어 다시 넣기를 수렴할 때까지 반복한다. VASP는 이 과정을 Davidson이나 RMM-DIIS 같은 크리로프 부분공간법 계열의 반복 대각화로 가속한다. 전 계산이 고속 푸리에 변환으로 실공간과 역공간을 오가며 진행된다.

5. 무엇을 계산하나[편집]

SCF가 수렴하면 그 뒤로 뽑아낼 수 있는 물성이 방대하다.

전자 구조 — 밴드 구조 계산과 상태밀도(DOS). 반도체의 밴드갭, 금속의 페르미면.
구조 최적화 — 힘과 응력을 최소화해 안정 격자 상수와 원자 배치를 찾는다.
에너지론 — 형성 에너지, 흡착 에너지, 반응 경로.
동역학 — 제일원리 분자동역학(AIMD)으로 유한 온도 거동. 분자동역학에 힘장 대신 DFT 힘을 쓰는 셈이다.
격자 진동 — 포논 분산(외부 코드와 연계).

배터리 소재의 전압, 촉매 표면의 반응성, 새 반도체의 밴드갭 예측 — 이 모든 것이 VASP 계산 한 판에서 나온다. 재료 신소재 스크리닝을 위한 대규모 데이터베이스(Materials Project 등)도 상당 부분 VASP로 채워졌다.

6. 현업에서의 현실[편집]

VASP는 유료다. 그것도 그룹 단위 라이선스라 비싸다. 무료 대안으로 Quantum ESPRESSO가 있지만, “논문 리뷰어가 VASP 결과를 기대한다”는 관성이 강하다.
표준 PBE 범함수는 밴드갭을 심하게 과소평가한다. 진지하게 밴드갭을 볼 거면 HSE 하이브리드 범함수를 써야 하는데, 비용이 수십 배로 뛴다.
$\mathbf{k}$ 점을 너무 성기게 잡으면 금속 계산이 통째로 틀어진다. 수렴 검사를 게을리한 계산은 검증 및 확인을 통과하지 못한다.
강상관 전자계(전이금속 산화물 등)에서는 DFT+U 보정을 안 넣으면 절연체를 금속으로 계산해버리는 참사가 벌어진다.
“SCF가 수렴을 안 해요”는 VASP 초보의 통과의례다. 대개 초기 구조나 스미어링 설정이 범인이다.

7. 관련 문서[편집]

호엔베르크-콘 정리는 “기저상태 전자 밀도가 외부 퍼텐셜을 (상수를 제외하고) 유일하게 결정한다”고 말한다. 3N차원 파동함수 대신 3차원 밀도만 다루면 된다는 이 통찰로 콘과 그 동료는 노벨 화학상(1998)을 받았다. ↩
PAW를 만든 Blöchl과 이를 VASP에 구현·확장한 Kresse의 논문은 재료계산 분야에서 가장 많이 인용되는 축에 든다. 인용수만 보면 이 코드가 얼마나 널리 쓰이는지 짐작할 수 있다. ↩