포텐셜 에너지 표면

양자화학 계산화학 마지막 수정: 2026-07-23 04:16:58

1. 개요[편집]

포텐셜 에너지 표면(Potential Energy Surface, PES)은 분자의 전자 에너지를 원자핵 좌표의 함수로 나타낸 다차원 곡면이다. 핵을 어디에 놓느냐에 따라 계의 에너지가 정해지고, 이 대응 관계 전체가 하나의 “지형”을 이룬다. 원자 $N$ 개짜리 분자면 핵 좌표는 $3N$ 차원이라 실제 PES는 초고차원 곡면이지만, 개념은 골짜기(안정 구조)와 능선(장벽)이 얽힌 등고선 지도로 그대로 이해할 수 있다.

PES가 “잘 정의된 곡면”으로 존재할 수 있는 근거는 본-오펜하이머 근사다. 핵은 전자보다 수천 배 무거워 훨씬 느리게 움직이므로, 각 핵 배치마다 전자가 순간적으로 바닥 상태에 안착한다고 본다. 그러면 핵 좌표 하나하나에 전자 에너지 하나가 대응해 곡면이 정의된다. 화학 반응, 분자 구조, 진동 스펙트럼은 결국 이 곡면 위의 지형 문제로 환원된다.

2. 본-오펜하이머 근사와 PES의 정의[편집]

계의 전체 슈뢰딩거 방정식은 핵과 전자의 운동이 얽혀 직접 풀 수 없다. 본-오펜하이머 근사는 파동함수를 핵 부분과 전자 부분으로 분리해, 핵 좌표 $\mathbf{R}$ 을 매개변수로 고정한 채 전자 방정식을 먼저 푼다:

\hat{H}_{\text{el}}(\mathbf{r};\mathbf{R})\,\psi_{\text{el}}(\mathbf{r};\mathbf{R}) = E_{\text{el}}(\mathbf{R})\,\psi_{\text{el}}(\mathbf{r};\mathbf{R})

여기서 얻은 전자 에너지에 핵-핵 반발을 더한 $E(\mathbf{R})$ 이 바로 PES 값이다. 핵 배치 $\mathbf{R}$ 을 바꿔가며 이 값을 모으면 곡면 전체가 그려진다. 핵의 운동은 이 곡면을 퍼텐셜로 삼아 그 위에서 일어난다고 본다 — 마치 언덕 지형 위를 구르는 공처럼.

3. 지형지물: 최소점과 안장점[편집]

PES의 임계점( $\nabla E = 0$ )은 화학적으로 뚜렷한 의미를 갖는다. 분류는 헤세 행렬의 고유값 부호로 하며, 이는 순수 수학의 안장점 판정과 완전히 같은 논리다.

국소 최소(local minimum): 헤세 행렬의 고유값이 모두 양수. 안정한 분자 구조에 해당한다. 반응물, 생성물, 반응 중간체가 각각 하나의 골짜기다.
1차 안장점(first-order saddle point): 헤세 행렬의 고유값 중 정확히 하나만 음수. 이것이 **전이상태**다. 두 골짜기(반응물·생성물)를 잇는 산길의 정상, 즉 반응 장벽의 꼭대기에 해당한다. 유일한 음의 고유값 방향이 반응이 진행되는 좌표이며, 그 방향의 진동은 허수 진동수(imaginary frequency)로 나타난다.¹

즉 화학 반응이란 PES 위에서 한 골짜기를 떠나 산길(1차 안장점)을 넘어 다른 골짜기로 내려가는 여정이다. 장벽의 높이가 활성화 에너지이고, 전이상태 이론이 이 지형으로부터 반응 속도를 예측한다.

4. 반응 경로와 IRC[편집]

전이상태에서 양쪽 골짜기로 내려가는 가장 자연스러운 길을 고유 반응 좌표(Intrinsic Reaction Coordinate, IRC)라 한다. 안장점에서 유일한 음의 고유값 방향(내리막)으로 출발해 질량 가중 좌표에서의 최급강하 경로를 따라가면 반응물과 생성물 골짜기에 각각 도달한다. IRC는 “반응이 실제로 어떤 원자 움직임을 거쳐 일어나는가”를 정의하는 이론적 기준 경로다.

고차원 PES에서 두 최소를 잇는 최소 에너지 경로(minimum energy path)를 찾는 대표적 수치 기법이 넛지 탄성 밴드법(NEB)이다. 반응물과 생성물 사이에 여러 중간 이미지를 스프링으로 연결한 “밴드”를 PES 위에서 이완시켜 경로와 장벽 위치를 동시에 찾아낸다. 안장점(전이상태)의 위치를 미리 몰라도 경로를 얻을 수 있는 것이 강점이다.

뮐러-브라운 모형 PES 위에서 넛지 탄성 밴드(NEB)로 최소 에너지 경로를 수렴시킨다. 위 등고선 지도의 점선은 반응물·생성물을 잇는 초기 직선 사슬이고, 이미지마다 참 힘의 수직 성분과 접선 방향 스프링 힘을 갈라 적분하면 사슬이 골짜기 바닥을 따라 안장점 위로 휘어든다. 아래 패널은 같은 사슬의 경로 좌표 대 에너지 프로파일로, 직선 사슬의 뾰족한 봉우리가 내려앉으며 전이상태의 활성화 장벽 ΔE‡로 수렴하는 과정을 보여준다. |F|max가 임계값 아래로 떨어지면 최고 에너지 이미지를 등반 이미지로 바꿔 안장점에 정확히 올려놓는다. 2자유도 모형 퍼텐셜이고 에너지는 원 논문 값을 0.05배한 모형 단위다.

5. PES는 어떻게 계산하나[편집]

PES는 닫힌 형태의 수식이 아니라 점별(pointwise)로 계산된다. 관심 있는 핵 배치마다 전자 구조 계산을 돌려 그 점의 에너지를 얻는다. 대표적 방법은 다음과 같다.

하트리-폭 방법: 전자 간 상호작용을 평균장으로 근사하는 고전적 출발점.
밀도범함수이론(DFT), 특히 콘-샴 방정식: 전자 밀도를 변수로 삼아 상관 효과를 상대적으로 저렴하게 포함, 오늘날 PES 계산의 주력.
결합 클러스터, 배치상호작용 등 더 정확하지만 비싼 후-하트리-폭 방법들.

두 좌표만 바꿔가며 격자로 에너지를 훑는 것을 PES 스캔이라 하고, 기울기를 따라 가장 가까운 최소로 내려가 안정 구조를 찾는 것을 기하 최적화(geometry optimization)라 한다. 후자는 본질적으로 경사하강법이나 준-뉴턴법으로 PES라는 지형을 항해하는 최적화 문제다.² 전이상태를 찾는 것은 최소가 아니라 안장점을 겨냥해야 해서 더 까다로우며, 헤세 행렬 정보를 적극적으로 쓰는 특수한 탐색법이 동원된다.³

6. 관련 문서[편집]

그래서 계산화학자들은 최적화한 구조에서 진동수를 뽑아본다. 허수 진동수가 0개면 진짜 최소(안정 구조), 정확히 1개면 전이상태다. 허수 진동수가 2개 이상 나오면 “고차 안장점”이라 화학적으로 별 의미 없는 애매한 지점이니 다시 최적화해야 한다. ↩
즉 양자화학 코드 안에는 결국 수치해석 최적화기가 심장처럼 박혀 있다. 화학자가 슈뢰딩거 방정식을 푼다고 믿는 그 순간, 실제로 돌아가는 건 BFGS다. ↩
전이상태 탐색이 어려운 이유는 자명하다. 최소는 아무 데서나 굴러떨어뜨리면 찾아지지만, 안장점은 산등성이 정확히 그 지점에 공을 세워둬야 한다. 초기 추측이 나쁘면 그냥 골짜기로 떨어져 버린다. ↩