기저함수

양자화학 계산화학 마지막 수정: 2026-07-08 05:03:41

기저함수 Basis set
분야	양자화학 × 계산화학
목적	분자 궤도함수의 유한 전개
주요 유형	가우시안형(GTO), 슬레이터형(STO), 평면파(PW)
대표 함정	기저중첩오차(BSSE)

1. 개요[편집]

파동함수는 무한차원 힐베르트 공간에 산다. 우리 컴퓨터의 메모리는 유한하다. 이 슬픈 간극을 메우는 것이 기저함수다.

기저함수(basis set)는 미지의 파동함수, 특히 분자 궤도함수(molecular orbital)를 유한 개의 알려진 함수들의 선형결합으로 전개할 때 그 “부품”으로 쓰이는 함수 집합이다. 하트리-폭 방법이든 밀도범함수이론이든, 실제 양자화학 계산은 궤도함수 $\psi_i$ 를 다음처럼 기저함수 $\{\chi_\mu\}$ 로 펼쳐서 미지수를 계수 $c_{\mu i}$ 로 바꾸는 것에서 출발한다.

\psi_i(\mathbf{r}) = \sum_{\mu=1}^{N} c_{\mu i}\, \chi_\mu(\mathbf{r})

이렇게 하면 미분방정식(슈뢰딩거 방정식)이 계수에 대한 고유값 문제로 바뀐다. 즉 기저함수를 고르는 순간 무한차원 문제가 유한 크기의 행렬 대각화로 내려앉는다. 대신 기저를 잘못 고르면 아무리 좋은 이론도 쓰레기 답을 뱉는다. 계산화학에서 “정확도”의 절반은 이론(method)이, 나머지 절반은 기저(basis)가 책임진다는 말이 괜히 나온 게 아니다.¹

2. 슬레이터형 vs 가우시안형[편집]

수소 원자의 정확한 해는 지수적으로 감쇠하는( $e^{-\zeta r}$ ) 꼴이다. 그래서 물리적으로 가장 “옳은” 기저는 슬레이터형 궤도함수(Slater-type orbital, STO)다.

\chi^{\text{STO}} \propto r^{n-1} e^{-\zeta r}

STO는 핵 근처에서의 첨점(cusp)과 먼 거리에서의 꼬리를 모두 정확히 재현한다. 문제는 두 STO의 곱을 여러 중심에 대해 적분하는 이중전자 적분(two-electron integral)이 해석적으로 잘 안 풀린다는 것. 그래서 등장한 것이 가우시안형 궤도함수(Gaussian-type orbital, GTO)다.

\chi^{\text{GTO}} \propto x^a y^b z^c\, e^{-\alpha r^2}

가우시안은 물리적으로는 STO보다 못하다. 핵 근처에서 첨점이 없고( $r=0$ 에서 기울기 0) 꼬리도 너무 빨리 죽는다. 그런데 결정적인 무기가 있으니, 가우시안 곱 정리(Gaussian product theorem) — 서로 다른 두 중심의 가우시안 곱이 그 중간 지점의 단일 가우시안이 된다. 덕분에 사중심 적분이 미친 듯이 빠르게 계산된다. 이 계산 편의성 하나 때문에 오늘날 분자 양자화학의 절대다수가 GTO를 쓴다.² STO의 정확성을 흉내 내려고 여러 개의 가우시안을 묶어 하나의 기저함수처럼 쓰는데, 이걸 축약 가우시안(contracted GTO)이라 부른다. STO-3G가 바로 “STO 하나를 가우시안 3개로 근사한다”는 뜻이다.

3. 기저의 등급: 최소부터 상관일관까지[편집]

기저는 클수록 정확하지만 비용은 형식적으로 $N^4$ (적분 개수)로 폭증한다. 그래서 목적에 맞는 크기를 고르는 게 실력이다.

등급	예시	특징
최소 기저	STO-3G	원자당 딱 필요한 궤도만. 빠르지만 부정확
분할 원자가	6-31G, 6-311G	원자가 궤도를 2~3중으로 쪼갬
분극 함수 추가	6-31G(d,p)	d, p 함수로 결합 왜곡 표현
확산 함수 추가	6-31+G	음이온·리간드 먼 꼬리 표현
상관일관	cc-pVDZ, cc-pVTZ	완전기저 극한으로 체계적 수렴

던닝(Dunning)의 상관일관 기저(correlation-consistent basis set, cc-pVXZ)는 X를 D→T→Q로 키우면 결과가 정해진 방식으로 완전기저 극한(CBS limit)에 수렴하도록 설계됐다. 덕분에 외삽(extrapolation)으로 무한 기저의 답을 추정할 수 있다. “일단 cc-pVTZ 돌리고 안 되면 사수한테 물어본다”가 이 바닥 국룰인 이유.

분극 함수(polarization function)는 원자가 궤도보다 각운동량이 한 단계 높은 함수(예: 수소에 p, 탄소에 d)로, 결합 형성 시 전자구름이 한쪽으로 쏠리는 것을 표현한다. 확산 함수(diffuse function)는 지수 $\alpha$ 가 아주 작은 넓게 퍼진 가우시안으로, 음이온·들뜬 상태·약한 상호작용처럼 전자가 멀리까지 나가는 계에 필수다. 음이온 계산에서 확산 함수를 빼먹으면 결과가 그냥 틀린다.

4. 평면파 기저[편집]

분자와 달리 무한히 반복되는 결정(주기계)에서는 국소화된 가우시안 대신 평면파(plane wave, PW)를 기저로 쓰는 게 자연스럽다. 블로흐 정리에 따라 주기 퍼텐셜 속 전자 상태가 평면파의 중첩으로 쓰이기 때문이다.

\psi_{\mathbf{k}}(\mathbf{r}) = \sum_{\mathbf{G}} c_{\mathbf{k}+\mathbf{G}}\, e^{i(\mathbf{k}+\mathbf{G})\cdot \mathbf{r}}

여기서 기저 크기는 딱 하나의 숫자, 컷오프 에너지(cutoff energy) $E_{\text{cut}}$ 로 결정된다. $\frac{1}{2}|\mathbf{k}+\mathbf{G}|^2 \le E_{\text{cut}}$ 을 만족하는 평면파만 남긴다. 파라미터가 단 하나라서 수렴 테스트가 깔끔하고, 기저중첩오차가 원리적으로 없다는 게 큰 장점.³ 대신 핵 근처의 급격한 진동을 평면파로 표현하려면 컷오프가 천문학적으로 커지기 때문에, 보통 유사퍼텐셜이나 PAW(projector augmented wave)와 짝지어 코어 전자를 부드럽게 처리한다. VASP, Quantum ESPRESSO 같은 고체물리 코드가 이 조합을 쓴다. 밴드 구조 계산의 표준 무기.

5. 기저중첩오차 (BSSE)[편집]

두 분자 A와 B의 상호작용 에너지를 계산한다고 하자. AB 복합체를 계산할 때, A의 전자가 B에 붙어 있는 기저함수까지 슬쩍 빌려 쓰면서 인위적으로 에너지가 낮아진다. 이 “공짜 점심” 때문에 결합 에너지가 과대평가되는 현상이 기저중첩오차(basis set superposition error, BSSE)다.⁴

표준 처방은 카운터포이즈 보정(counterpoise correction, Boys–Bernardi)이다. A 단독 에너지를 계산할 때도 B의 기저함수(원자는 없고 함수만, 이른바 “유령 원자”)를 자리에 놔두고 계산해서, 빌려 쓴 만큼을 공평하게 빼준다.

\Delta E_{\text{corr}} = E_{AB} - E_A^{AB} - E_B^{AB}

여기서 위첨자 $AB$ 는 “둘 다 전체 기저를 쓴다”는 뜻이다. BSSE는 기저가 작을수록 크고, 완전기저 극한에 가까울수록 0으로 사라진다. 즉 근본 해결책은 큰 기저지만, 현실에서는 카운터포이즈로 땜빵하는 경우가 많다. 반데르발스 복합체나 수소결합처럼 미세한 에너지를 다룰 때 BSSE를 무시하면 결론이 통째로 뒤집힐 수 있다.

6. 관련 문서[편집]

그래서 논문 계산 조건을 쓸 때 “method/basis” 형태로 슬래시로 붙여 표기한다. 예: CCSD(T)/cc-pVTZ. 슬래시 앞이 이론, 뒤가 기저. 둘 중 하나만 좋아봐야 소용없다는 철학이 이 표기법에 박제되어 있다. ↩
가우시안이 물리적으로 틀렸다는 걸 알면서도 계산이 빨라서 쓰는 것 — 계산화학의 실용주의를 상징하는 장면이다. 프로그램 이름부터 그냥 “Gaussian”이다. 노벨상(존 포플)까지 받았다. ↩
대신 진공 영역까지 평면파를 채워야 해서, 표면·분자 계산에서는 셀 안에 쓸데없이 빈 공간이 많아 비효율적이다. 세상에 공짜는 없다. ↩
직관적으로 말하면, 시험 볼 때 옆자리 친구 답안지를 훔쳐보고 점수가 오른 셈이다. 카운터포이즈는 “그럼 나도 빈 답안지 하나 더 놓고 똑같이 훔쳐본 척 하자”는 공평화 꼼수다. ↩