격자 QCD

계산물리 양자역학 시뮬레이션 마지막 수정: 2026-08-05 04:36:05

1. 개요[편집]

격자 QCD Lattice Quantum Chromodynamics
제안	Kenneth G. Wilson (1974)
무대	4차원 유클리드 초입방 격자, 간격 $a$
자유도	링크 위의 게이지 변수 $U_\mu(n) \in SU(3)$, 사이트 위의 쿼크장
표본추출	HMC (하이브리드 몬테카를로)
계산 병목	디랙 연산자 역행렬 (CG 반복)
대표 코드	Chroma · MILC · Grid · QUDA · openQCD

격자 QCD(lattice QCD)는 양자색역학을 4차원 유클리드 시공간 격자 위에 이산화해, 경로적분을 몬테카를로 방법으로 직접 표본추출함으로써 강한 상호작용을 제1원리에서 계산하는 방법이다. 1974년 케네스 윌슨이 쿼크 가둠을 설명하려고 제안했고, 오늘날 양자색역학의 저에너지 영역을 정량적으로 다룰 수 있는 유일하게 체계적인 계산 수단이다.

이유는 단순하다. 전자기 상호작용은 결합상수가 작아서 섭동 전개가 먹히지만, 강한 상호작용은 저에너지에서 결합이 $O(1)$ 이라 파인만 다이어그램을 아무리 더해도 수렴하지 않는다. 양성자 질량을 섭동론으로 계산하는 길은 없다. 그래서 방정식을 격자에 올려놓고 병렬 컴퓨팅 자원을 갈아 넣는 쪽을 택한 것이다. 실제로 격자 QCD는 수십 년째 세계 최상위 슈퍼컴퓨터 사이클의 큰 몫을 소비하는 단골 고객이다.¹

2. 격자 위의 게이지장[편집]

핵심 아이디어는 게이지장을 사이트가 아니라 링크에 얹는 것이다. 이웃 사이트 $n$ 과 $n+\hat\mu$ 를 잇는 링크에 $SU(3)$ 행렬

U_\mu(n) = \exp\!\big(i g a A_\mu(n)\big)

를 놓으면, 게이지 변환이 $U_\mu(n) \to \Omega(n)\, U_\mu(n)\, \Omega^\dagger(n+\hat\mu)$ 라는 깔끔한 형태가 되고 격자 간격이 유한해도 게이지 대칭이 정확히 유지된다. 이산화가 대칭을 깨지 않는다는 것 — 이게 게이지 이론을 격자에 올릴 때의 결정적 설계다.

가장 작은 닫힌 고리인 플라케트 $U_{\mu\nu}(n)$ 로 윌슨 게이지 작용을 쓴다.

S_G = \beta \sum_{n}\sum_{\mu<\nu} \left( 1 - \tfrac{1}{3}\,\mathrm{Re}\,\mathrm{Tr}\, U_{\mu\nu}(n) \right), \qquad \beta = \frac{6}{g^2}

$a \to 0$ 에서 이것을 전개하면 연속 이론의 $\frac{1}{4}\int F_{\mu\nu}F^{\mu\nu}$ 가 $O(a^2)$ 오차와 함께 복원된다. 더 큰 고리를 섞어 오차를 줄인 개선 작용(Symanzik, Iwasaki 등)도 널리 쓰인다. 한편 큰 고리인 윌슨 루프의 기댓값이 넓이에 지수적으로 감소하면(면적 법칙) 정적 쿼크 퍼텐셜이 $V(r) \simeq \sigma r$ 로 선형이 되어 가둠이 나온다 — 윌슨이 애초에 노렸던 결과다.

3. 페르미온 이산화 문제[편집]

게이지장이 순조로웠던 만큼 쿼크는 골칫거리다. 디랙 연산자의 미분을 순진하게 중앙차분으로 바꾸면 운동량 공간에서 $\sin(a p_\mu)$ 가 등장하는데, 이 함수는 $p_\mu = 0$ 뿐 아니라 $p_\mu = \pi/a$ 에서도 0이 된다. 결과적으로 쿼크 하나를 넣었는데 4차원에서 $2^4 = 16$ 마리가 나온다. 이것이 페르미온 배가(doubling) 문제다.

더 나쁜 건 이게 우회 가능한 버그가 아니라 정리라는 점이다. 닐센-니노미야 정리(1981)에 따르면 국소성·병진 불변성·에르미트성·카이랄 대칭성을 모두 갖춘 격자 페르미온 작용은 반드시 배가자를 가진다. 뭔가 하나는 포기해야 한다. 그래서 처방마다 다른 것을 포기한다.

방식	포기한 것	성격
윌슨 페르미온	카이랄 대칭성 (명시적 파괴)	배가자에 $\sim 1/a$ 질량 부여. 질량 덧셈 재규격화와 $O(a)$ 오차 발생
클로버 개선	—	윌슨 항에 $c_{SW}\sigma_{\mu\nu}F_{\mu\nu}$ 를 더해 오차를 $O(a^2)$ 로
스태거드 (KS)	맛깔 대칭성 일부	사이트당 성분 1개. 16 → 4 “taste”, 잔여 $U(1)$ 카이랄 대칭 유지. 가장 싸다
도메인 월	— (근사적으로 보존)	5번째 차원 길이 $L_s$ . 카이랄 파괴가 $L_s$ 에 대해 지수적으로 작아짐
오버랩	국소성의 일부 (초국소성)	긴즈파그-윌슨 관계를 정확히 만족. 가장 이론적으로 깨끗하고 가장 비싸다

긴즈파그-윌슨 관계 $\{D, \gamma_5\} = a\, D \gamma_5 D$ 가 닐센-니노미야의 빈틈이다. 격자에서 카이랄 대칭을 “격자 버전으로 변형된 형태”로 정확히 실현할 수 있음이 1990년대 말에 밝혀지면서 오버랩·도메인 월 페르미온이 실용 궤도에 올랐다. 비용은 정직하게 비싸서, 대규모 앙상블 생성에서는 여전히 개선 윌슨과 스태거드(HISQ 등)가 주력이다.

4. HMC — 배위를 어떻게 뽑는가[편집]

경로적분에서 쿼크장은 그라스만 변수라 수치적으로 저장할 수 없다. 대신 정확히 적분해 버리면 행렬식이 남는다.

Z = \int \mathcal{D}U \; \det D[U] \; e^{-S_G[U]}

문제는 $\det D$ 가 수천만 차원 행렬의 행렬식이라는 것. 그래서 다시 보조 복소장(의사페르미온)으로 되돌려 쓴다. 두 개의 겹친 맛깔이면

\det(D^\dagger D) = \int \mathcal{D}\phi^\dagger \mathcal{D}\phi \;\exp\!\left(-\phi^\dagger (D^\dagger D)^{-1} \phi\right)

가 되어 정상적인 가우시안 적분으로 바뀐다. 여기에 마르코프 연쇄 몬테카를로를 걸어야 하는데, 국소 갱신은 행렬식 비국소성 때문에 못 쓴다. 그래서 표준은 HMC(해밀토니안 몬테카를로, 격자 쪽에서는 hybrid Monte Carlo라 부른다)다.

링크 변수에 켤레 운동량을 도입하고 가상 시간에 대해 분자동역학을 돌린 뒤, 적분 오차를 메트로폴리스 채택-기각으로 정확히 보정한다. 적분기는 반드시 가역적이고 위상공간 부피를 보존해야 하므로 심플렉틱 적분기(리프프로그, 오멜리안)를 쓴다. 채택률은 $\langle e^{-\Delta H}\rangle$ 로 조절한다. 실무 가속 기법도 한 세트다 — 힘의 크기에 따라 스텝 크기를 나누는 다중 시간척도(섹스턴-와인가르텐), 행렬식을 질량이 다른 인자들로 쪼개는 하젠부시 질량 전처리, 짝수-홀수(red-black) 전처리, 홀수 맛깔용 유리함수 HMC(RHMC).

5. 어디서 시간을 다 쓰는가[편집]

HMC 한 궤적의 비용은 압도적으로 디랙 연산자 선형계 $D x = b$ 를 푸는 데서 나온다. 분자동역학 힘을 계산할 때마다 필요하고, 관측량 측정 단계에서 쿼크 전파자를 뽑을 때도 필요하다. $D^\dagger D$ 가 에르미트 양정치라 크리로프 부분공간법의 CG가 표준이고, 비대칭 형태에는 BiCGStab을 쓴다.

그런데 쿼크 질량이 물리값(가벼운 $u$ , $d$ )에 가까워질수록 $D$ 의 조건수가 $\sim 1/m_q$ 로 커져 CG 반복이 폭발한다. 격자 QCD가 오랫동안 실제보다 무거운 쿼크로 계산하고 외삽했던 이유가 이 임계 감속이다. 2010년대에 대수 다중격자법 계열 전처리기(DD- $\alpha$ AMG, 적응형 AMG)가 자리를 잡으면서 물리 질량에서 수십 배의 가속이 나왔고, 이것이 “물리점 시뮬레이션”이 일상이 된 결정적 계기였다.²

측정 쪽 논리는 의외로 소박하다. 두 점 상관함수를 시간 방향으로 보면

C(t) = \langle \mathcal{O}(t)\, \mathcal{O}^\dagger(0)\rangle = \sum_n A_n e^{-E_n t}

이므로 큰 $t$ 에서 바닥 상태가 살아남는다. $\log[C(t)/C(t+1)]$ 의 유효질량 평탄역을 찾아 맞춤하면 하드론 질량이 나온다. 통계 오차는 부트스트랩이나 잭나이프로, 자기상관은 적분 자기상관시간으로 관리한다.

6. 극한들과 부호 문제[편집]

계산 결과가 물리량이 되려면 세 방향의 극한을 다뤄야 한다.

연속 극한 $a \to 0$ — 격자 간격은 입력이 아니라 $\beta$ 의 함수다. 점근 자유성 때문에 $\beta \to \infty$ 가 $a \to 0$ 에 대응하며, 이 관계 자체가 재규격화군의 내용이다. 실무에서는 여러 $\beta$ 에서 계산해 $a^2 \to 0$ 으로 외삽한다. 절대 눈금은 $\Omega$ 바리온 질량이나 글루온 흐름 스케일 $w_0$ 같은 물리량 하나로 정한다.
무한 부피 극한 — 유한 격자의 인공효과는 파이온 질량 스케일로 결정된다. 경험칙이 $m_\pi L \gtrsim 4$ 이며, 이걸 지키면서 $a$ 를 줄이면 사이트 수가 $(L/a)^4$ 로 늘어난다. 4차원의 저주다.
물리 쿼크 질량 — 위의 임계 감속 문제. 이제는 상당수 앙상블이 직접 물리점에서 생성된다.

그리고 이 방법론의 유명한 한계가 **부호 문제**다. 유한 바리온 화학퍼텐셜 $\mu_B \neq 0$ 을 넣으면 $\det D$ 가 복소수가 되어 $e^{-S}\det D$ 를 확률로 해석할 수 없다. 중요도 표본추출의 전제 자체가 무너지는 것이라, 격자 QCD는 아직 중성자별 내부 같은 고밀도 영역을 정면으로 다루지 못한다. 테일러 전개, 허수 화학퍼텐셜에서의 해석적 연속, 재가중, 복소 랑주뱅, 레프셰츠 심블 같은 우회로가 연구되지만 어느 것도 완전한 해법은 아니다. 실시간 동역학(민코프스키 시간)도 같은 이유로 막혀 있다.³

7. 코드와 계산 자원[편집]

격자 QCD는 계산과학 중에서도 소프트웨어 생태계가 유난히 공동체적으로 굴러가는 분야다. 앙상블(게이지 배위 묶음) 하나 만드는 데 수천만 코어시간이 들기 때문에, 만든 협력단이 배위를 공개하고 다른 그룹이 그 위에서 서로 다른 관측량을 재는 분업이 굳어졌다. ILDG(International Lattice Data Grid) 같은 배위 공유 규약이 그래서 존재한다.

코드 쪽 지형도는 대략 이렇다.

코드	성격
MILC	스태거드(HISQ) 계열의 오래된 표준. C, MPI
Chroma	QDP++ 위에 올린 C++ 프레임워크. 다양한 페르미온 작용
Grid	데이터 병렬 C++, SIMD 벡터화를 자료구조 수준에서 노림
QUDA	GPU 커널 라이브러리. Chroma·MILC 등이 백엔드로 호출
openQCD	개선 윌슨 + 열린 경계조건 계열의 경량 구현

계산 자원 배분의 감각도 독특하다. 비용은 대략 배위 생성 : 측정 = 압도적 : 나머지 로 갈리고, 배위 생성은 마르코프 연쇄라 본질적으로 직렬이다. 즉 앞 배위가 나와야 다음 배위를 만들 수 있어서 노드를 무한정 늘려도 벽시계 시간이 줄지 않는다. 강스케일링 한계가 물리 문제가 아니라 알고리즘 구조에서 오는 것이다. 반면 측정 단계는 배위끼리 완전히 독립이라 창피할 정도로 병렬적이다.

여기에 하나 더 있는 골칫거리가 위상학적 고착(topological freezing)이다. 격자가 촘촘해질수록( $a$ 가 작아질수록) 위상전하가 서로 다른 섹터 사이를 넘나드는 몬테카를로 이동이 급격히 억제돼, 자기상관시간이 $a^{-5}$ 수준으로 폭발한다는 관측이 있다. 시간 방향에 주기 대신 열린 경계조건을 쓰는 처방이 그래서 나왔다. 유효표본크기를 제대로 세지 않으면 오차막대를 심하게 과소평가하게 되는, 아주 전형적인 MCMC 함정이다.

그럼에도 성과는 확실하다. 경입자 붕괴상수와 CKM 행렬요소, 쿼크 질량, 유한온도 QCD의 크로스오버 온도와 상태방정식, 그리고 2008년 BMW 협력단이 제1원리에서 재현한 가벼운 하드론 질량 스펙트럼 — 양성자 질량의 대부분이 쿼크 질량이 아니라 글루온장의 에너지에서 온다는 사실을 수치적으로 증명한 것은 20세기 후반 이론물리의 큰 검증 사례다.⁴

8. 관련 문서[편집]

아예 격자 QCD 전용으로 설계된 기계가 있었을 정도다. 컬럼비아 대학 계열의 QCDSP·QCDOC는 이후 IBM 블루진 계보로 이어졌다. “우리 분야 전용 슈퍼컴퓨터를 직접 설계한다”는 발상이 통했던 몇 안 되는 사례. 요즘은 GPU 쪽으로 넘어와 QUDA가 사실상 표준 커널 라이브러리다. ↩
수치해석 쪽 사람이 보면 흐뭇한 대목이다. 물리학자들이 하드웨어를 수십 배 늘려서 뚫으려던 벽을, 전처리기를 제대로 갈아 끼우니 한 세대 만에 넘어버렸다. “격자가 다 했다”가 아니라 “AMG가 다 했다”인 셈. ↩
부호 문제는 격자 QCD만의 병이 아니라 페르미온 양자 몬테카를로 전반의 고질병이다. 일반적인 형태의 부호 문제가 NP-hard 급으로 어렵다는 논의까지 있어서, “언젠가 똑똑한 알고리즘이 나오겠지”라고 낙관하기가 쉽지 않다. 양자컴퓨터 응용 후보로 자주 거론되는 이유이기도 하다. ↩
이 결과의 대중적 요약이 “당신 몸무게의 98%는 글루온이 뛰노는 에너지”다. 힉스 메커니즘이 준 쿼크 질량은 양성자 질량의 1~2% 남짓이고, 나머지는 양자색역학의 결합 에너지다. 다이어트가 안 되는 근본적인 이유라고 우겨볼 수도 있겠다. ↩