DMRG

1. 개요[편집]

DMRG Density Matrix Renormalization Group
한국어	밀도행렬 재규격화군
제안	스티븐 화이트 (Steven R. White, 1992)
절단 기준	축약 밀도행렬의 고유값(슈미트 계수) 상위 χ개
변분 다양체	결합차원 χ 인 행렬곱 상태(MPS)
비용	스윕당 O(N d³ χ³) — χ 의 3제곱
잘 되는 곳 / 안 되는 곳	1차원 갭 있는 계 / 2차원 · 임계계 · 장시간 발전

힐베르트 공간은 지수적으로 크다. 다행히 바닥상태는 그 안의 아주 얇은 껍질에만 산다.

DMRG(density matrix renormalization group, 밀도행렬 재규격화군)는 1차원 양자 다체계의 바닥상태를 구할 때, 남길 상태를 “에너지가 낮은 것”이 아니라 “계의 나머지 부분과 실제로 얽혀 있는 것”으로 고르는 재규격화 알고리즘이다. 1992년 스티븐 화이트가 제안했고, 지금까지 나온 1차원 양자 다체 알고리즘 중 정확도와 비용의 균형에서 이길 상대가 거의 없다.¹

문제의 출발점은 익숙하다. 자리마다 국소 차원이 $d$ 인 격자 $N$ 개면 힐베르트 공간 차원이 $d^{N}$ 이다. 스핀 1/2 사슬 50개면 $2^{50} \approx 10^{15}$ 이라 정확 대각화는 30자리쯤에서 벽에 부딪힌다. DMRG는 이 공간을 결합차원 $\chi$ 짜리 행렬곱 상태라는 얇은 부분다양체로 제한하고 그 안에서 변분 최적화를 돌린다. 그것이 정당한 이유가 얽힘 면적법칙이고, 이 문서는 그 논리를 따라간다. 텐서 네트워크 일반론(PEPS·MERA·2차원 확장)은 텐서 네트워크 쪽으로 넘긴다.

2. 화이트 이전 — 왜 NRG는 사슬에서 실패했나[편집]

윌슨의 수치 재규격화군(NRG)은 콘도 문제에서 눈부시게 작동했다. 블록을 하나 잡아 대각화하고, 에너지가 가장 낮은 $m$ 개 상태만 남긴 뒤, 자리를 하나 더 붙여 다시 대각화하는 과정을 반복한다. 그런데 균일한 사슬(하이젠베르크 모형, 허바드 모형)에 같은 짓을 하면 결과가 형편없이 나왔다.

원인을 화이트와 노악(1992)이 상자 속 입자라는 최소 예제로 진단했다. 블록을 고립시켜 대각화하면 블록 경계에서 파동함수가 0이 되는 상태들만 남는다. 그런데 블록을 두 개 이어 붙이는 순간 경계는 더 이상 경계가 아니고, 실제 바닥상태는 그 자리에서 0이 아니어야 한다. 남긴 기저가 필요한 상태를 표현할 수 없는 것이다. 블록을 고립해서 판단한 것이 죄였다.

화이트의 답은 판단 기준을 통째로 바꾸는 것이었다. 블록 $B$ 하나만 보지 말고 전체(superblock)의 목표 상태 $|\psi\rangle$ 를 먼저 구한 다음, 그 상태를 블록과 나머지(environment)로 갈라 축약 밀도행렬

$$\rho_{B} = \operatorname{Tr}_{E}|\psi\rangle\langle\psi|$$

를 만들고, $\rho_B$ 의 고유값이 큰 순서로 $\chi$ 개 고유벡터를 남긴다. 이 선택이 최적이라는 것은 증명 가능하다 — 잘린 상태와 원래 상태의 2-노름 오차를 최소화하는 기저가 정확히 이것이고, 버려진 무게

$$\varepsilon_{\rm trunc} = 1 - \sum_{a=1}^{\chi} w_{a}$$

가 그 오차를 직접 재는 양이다. 에너지의 절단오차는 대체로 $\varepsilon_{\rm trunc}$ 에 선형이라, 여러 $\chi$ 로 계산한 뒤 $\varepsilon_{\rm trunc}\to 0$ 으로 외삽하는 것이 표준 관행이 되었다.

3. 무한 시스템과 유한 시스템 알고리즘[편집]

• 무한 시스템 알고리즘. $B_{\ell}\!\bullet\!\bullet\! B_{\ell}^{R}$ 형태의 초블록을 만들어 바닥상태를 풀고, 밀도행렬로 블록을 하나씩 키운다. 매 단계마다 사슬이 두 자리씩 길어지므로 열역학적 극한을 향해 간다. 구현이 간단하고 초기 블록을 만드는 용도로 여전히 쓰이지만, 정확도가 좋지 않다 — 왼쪽 블록을 키울 때 환경이 “아직 다 자라지 않은 대칭 사본”이라 진짜 환경이 아니기 때문이다.
• 유한 시스템 알고리즘. 길이 $N$ 을 고정하고, 왼쪽 블록을 한 칸씩 키우며 오른쪽 블록은 이전 스윕에서 저장해 둔 것을 꺼내 쓴다. 오른쪽 끝에 닿으면 방향을 바꿔 되돌아온다. 이 왕복이 스윕(sweep)이고, 몇 번 왕복하면 에너지가 기계 정밀도 수준으로 수렴한다. 각 스윕에서 환경이 점점 정확해지므로 자기무모순적으로 개선된다. 실전 DMRG는 사실상 전부 이쪽이다.

한 단계 안에서 실제로 하는 일은 유효 해밀토니안의 최저 고유쌍 하나 찾기다. 초블록 차원은 $\chi^{2}d^{2}$ 정도인데, 전체 행렬을 만들지 않고 행렬-벡터 곱만 제공해 란초스 알고리즘이나 데이비드슨 알고리즘으로 푼다. 시작 벡터를 직전 스텝의 해에서 변환해 넘겨 주면(화이트의 상태 예측) 반복 횟수가 몇 회로 떨어진다.

4. MPS 언어 — DMRG가 실은 무엇이었나[편집]

1995년 외스틀룬드와 로머가 DMRG의 정체를 다시 진술했다. DMRG가 만드는 상태는 언제나

$$|\psi\rangle = \sum_{s_{1}\cdots s_{N}} M^{[1]s_{1}}M^{[2]s_{2}}\cdots M^{[N]s_{N}}\,|s_{1}\cdots s_{N}\rangle$$

꼴, 즉 자리마다 $\chi\times\chi$ 행렬 하나씩을 놓고 곱한 행렬곱 상태(matrix product state, MPS)다. 그리고 DMRG 스윕은 이 MPS 다양체 위에서 한 번에 텐서 한두 개씩만 열어 놓고 나머지는 고정한 채 $\langle\psi|H|\psi\rangle/\langle\psi|\psi\rangle$ 를 최소화하는 교대 최적화다. 즉 DMRG는 변분법이고, 얻은 에너지는 항상 참값의 상한이다.

이 재해석이 준 것은 이름만이 아니다.

• 정준형(canonical form)과 안정성. MPS 게이지 자유도를 QR/SVD로 고정하면 유효 고유값 문제의 조건수가 좋아진다. 초기 DMRG 구현이 겪던 수치 불안정의 상당 부분이 사실 게이지 문제였다.
• 절단 = SVD. 밀도행렬 고유값 $w_{a}$ 는 특이값 분해로 얻은 슈미트 계수의 제곱 $\lambda_{a}^{2}$ 다. “밀도행렬 대각화”와 “저랭크 근사”가 같은 연산이라는 것이 드러난다.
• 연산자도 텐서 네트워크로. 해밀토니안을 행렬곱 연산자(MPO)로 쓰면 장거리 상호작용, 주기 경계, 임의의 항 구조를 통일적으로 다룰 수 있다. 오늘날 코드가 특정 모형에 묶이지 않는 이유다.
• 일반화 경로가 열린다. 시간 발전, 유한 온도, 들뜬 상태, 2차원 확장이 전부 “MPS 다양체 위에서 무엇을 할 것인가”라는 한 가지 질문으로 정리된다.²

5. 왜 되는가 — 얽힘 면적법칙[편집]

사슬을 한 지점에서 왼쪽 $A$ 와 오른쪽 $B$ 로 자르면 슈미트 분해로

$$|\psi\rangle = \sum_{a} \lambda_{a}\,|a\rangle_{A}\otimes|a\rangle_{B}, \qquad S = -\sum_{a}\lambda_{a}^{2}\log\lambda_{a}^{2}$$

가 되고, $S$ 가 **얽힘 엔트로피**다. $\chi$ 개만 남기고 잘라도 되려면 $\lambda_a$ 가 빨리 죽어야 하고, 그것은 대략 $\chi \gtrsim e^{S}$ 를 요구한다. 그러니 관건은 $S$ 가 계 크기에 따라 어떻게 자라는가다.

• 1차원 갭 있는 계. $S$ 가 절단면의 넓이(1차원에서는 점 하나, 즉 상수)에 비례해 포화한다. 무작위로 뽑은 상태의 $S \sim N$ 과 비교하면 압도적으로 작다. 이것이 면적법칙이고, 국소 갭 있는 1차원 해밀토니안에 대해서는 헤이스팅스(2007)가 정리로 증명했다. $\chi$ 를 상수로 두어도 되므로 DMRG는 계 크기에 선형 비용으로 정확한 답을 낸다.
• 1차원 임계계. 갭이 닫히면 로그 위반이 생긴다. 등각장론이 주는 값은 부분계 길이 $\ell$ 에 대해 $S(\ell) \simeq \frac{c}{3}\log\ell$ (주기 경계), 열린 경계에서는 $\frac{c}{6}\log\ell$ 이고 $c$ 는 중심 전하다. 지수가 아니라 로그이므로 $\chi$ 는 계 크기의 멱으로만 자라면 된다 — 느려지지만 아직 살아 있다. 덤으로 $S(\ell)$ 곡선을 맞춰 $c$ 를 읽는 것이 임계 이론을 동정하는 표준 기법이 되었다.
• 2차원. 폭 $W$ 짜리 띠를 뱀처럼 감아 1차원으로 펴면, 절단면이 점이 아니라 길이 $W$ 짜리 선이 된다. 면적법칙이 여전히 성립해도 $S \sim W$ 이므로 $\chi \sim e^{W}$ — 지수 벽이 부활한다. 실무적으로 $W \le 8{\sim}12$ 가 한계이고, 그래도 이 정도로 $t$-$J$ 모형의 줄무늬 질서 같은 결론을 낸 계산들이 있다.
• 시간 발전. 국소 퀜치 뒤 얽힘이 시간에 선형으로 자란다는 것이 칼라브레제-카디의 결과다. $\chi \sim e^{t}$ 이므로 접근 가능한 시간이 로그로만 늘어난다. DMRG 계열 시간 발전이 “짧은 시간만 정확한” 이유가 알고리즘의 미숙함이 아니라 물리적 얽힘 성장이라는 뜻이라, 개선의 여지가 원리적으로 막혀 있다.

6. 비용과 실무 이슈[편집]

한 자리 최적화의 지배 연산은 $\chi\times\chi$ 텐서에 MPO를 축약하는 것이라 $O(d^{3}\chi^{3})$(MPO 결합차원 $D$ 를 넣으면 $O(dD\chi^{3} + d^{2}D\chi^{2})$ 수준), 스윕 하나는 여기에 $N$ 을 곱한다. $\chi^{3}$ 이 모든 것을 지배하므로 $\chi$ 를 2배로 올리면 8배 느려진다.

• 대칭성을 반드시 쓴다. 입자 수 U(1), 스핀 SU(2) 같은 보존량으로 텐서를 블록 대각으로 만들면 유효 $\chi$ 가 같아도 실제 저장·연산이 한 자릿수 이상 줄어든다. 안 쓰는 프로덕션 코드는 없다고 봐도 된다.
• 한 자리 vs 두 자리. 두 자리(two-site) 최적화는 두 텐서를 합쳐 최적화한 뒤 SVD로 다시 쪼개므로 결합차원과 대칭 섹터를 스스로 늘릴 수 있다. 한 자리(single-site)는 싸지만 결합차원을 못 키워 국소 최소에 갇히기 쉽다. 그래서 화이트(2005)의 밀도행렬 섭동이나 그 계보를 잇는 엄밀 단일자리 변형(DMRG3S, 후비히 등 2015) 같은 혼합 장치를 넣는다.
• 궤도·자리 순서. 상호작용이 장거리면 어떤 순서로 사슬에 늘어놓느냐가 얽힘을 좌우한다. 최적 순서 찾기는 조합 최적화 문제이고, 상호정보 기반 휴리스틱이 널리 쓰인다.
• 수렴 판정. 에너지가 안 내려간다고 수렴이 아니다. $\chi$ 를 늘려 가며 에너지와 관측량이 $\varepsilon_{\rm trunc}$ 에 대해 선형으로 외삽되는지를 보는 것이 최소한이다.³

7. 시간 발전과 유한 온도[편집]

• TEBD(비달, 2003). 해밀토니안을 짝수·홀수 결합으로 쪼개 트로터 분해하고 두 자리 게이트를 순차 적용한 뒤 매번 SVD로 절단한다. 구현이 쉽지만 최근접 상호작용에 유리하고 트로터 오차가 따로 붙는다.
• tDMRG / TDVP. 시간 의존 변분 원리(TDVP, 헤이허만 등 2011)는 정확한 시간 도함수를 MPS 다양체의 접공간에 사영해 흐르는 방식이다. 에너지를 보존하고 장거리 MPO를 그대로 다룰 수 있어 요즘 기본값에 가깝다. 다만 다양체가 좁으면(작은 $\chi$) 사영 오차가 조용히 잘못된 동역학을 만들 수 있다.
• 유한 온도. 열 상태를 순수화(purification)로 보조 자리를 붙여 MPS로 표현하고 허수 시간 발전을 돌린다. $\beta$ 가 커질수록 얽힘이 자라 같은 벽에 부딪힌다.

8. 양자화학 DMRG[편집]

강상관 분자, 즉 전이금속 착물이나 다중 결합 해리처럼 단일 슬레이터 행렬식 하나로는 손도 못 대는 계가 표적이다. 화이트와 마틴(1999)이 분자 오비탈 기저의 2차 양자화 해밀토니안을 그대로 DMRG에 얹는 길을 열었다.

• 위치는 활성공간 솔버. 배치상호작용의 완전 CI를 대체해 CASSCF의 활성공간을 수십~100 궤도 규모까지 밀어 올린다. 완전 CI가 궤도 수에 지수적으로 폭발하는 자리를 다항식 비용으로 바꾼 것.
• 비용 구조가 다르다. 격자 모형과 달리 상호작용이 모든 궤도 쌍에 걸쳐 있어 MPO 결합차원이 궤도 수 $k$ 에 대해 $O(k^{2})$ 로 커진다. 전체 비용이 대략 $O(k^{3}\chi^{3} + k^{4}\chi^{2})$ 수준이라 궤도 수에도 민감하다.
• 동적 상관은 따로. DMRG는 정적(강)상관을 잡는 데 강하지만 동적 상관은 잘 못 담는다. 그래서 DMRG-NEVPT2, DMRG-CASPT2처럼 뒤에 섭동 보정을 붙이는 조합이 표준이다. 여기서 결합 클러스터 방법과 역할이 갈린다 — CC는 약상관에 강하고 강상관에서 무너지며, DMRG는 정확히 반대다.
• 구현. ITensor, Block2, CheMPS2, QCMaquis 등이 있고 PySCF·ORCA·Molpro 같은 주류 패키지가 인터페이스를 제공한다.

9. 관련 문서[편집]

• 텐서 네트워크 · 얽힘 엔트로피 · 크로네커 곱 · 특이값 분해
• 란초스 알고리즘 · 데이비드슨 알고리즘 · 크리로프 부분공간법 · 고유값 문제
• 양자 몬테카를로 · 배치상호작용 · 다중기준 방법 · 결합 클러스터 방법 · 밀도범함수이론
• 재규격화군 · 이징 모형 · 상전이 · 전달행렬법
• 슈뢰딩거 방정식 · 변분법 · 희소행렬

10. Footnotes[편집]

1. 화이트가 1992년 논문에서 든 예제는 스핀 1 하이젠베르크 사슬의 홀데인 갭이었고, 당시 최고 정밀도를 몇 자릿수 갱신했다. 정확 대각화가 20자리에서 헐떡이던 시절에 100자리 사슬을 소수점 아래 열 자리까지 뽑아 왔으니, 논문이 나오자마자 이 분야가 통째로 방향을 튼 것도 무리는 아니다. ↩

2. DMRG가 “재규격화군”이라는 이름을 달고 있지만 재규격화군의 고정점·흐름 그림과는 사실 거리가 있다. 조대화를 하긴 하는데 스케일 불변성을 추적하는 게 아니라 그냥 좋은 기저를 고를 뿐이다. 그래서 요즘 문헌은 이걸 “변분 MPS 알고리즘”이라 부르는 쪽을 선호하는데, 30년 붙어 있던 이름이 그렇게 쉽게 떨어지지는 않는다. ↩

3. ”$\chi=2000$ 으로 돌렸습니다”는 그 자체로 아무 정보도 아니다. 같은 $\chi$ 라도 계와 절단 위치에 따라 $\varepsilon_{\rm trunc}$ 가 $10^{-12}$ 일 수도 $10^{-4}$ 일 수도 있다. 논문 심사에서 가장 먼저 요구받는 것이 절단오차 표와 외삽 그래프이며, 그게 없으면 숫자 자릿수는 장식이다. ↩