상관함수

1. 개요[편집]

상관함수 Correlation Function
정의	$C(r)=\langle\phi(x)\phi(x+r)\rangle-\langle\phi\rangle^2$
전제	병진 불변(균질·정상) — 없으면 $r$ 만의 함수가 아니다
푸리에 짝	파워 스펙트럼 (위너-힌친 정리)
공간 스케일	상관길이 $\xi$ — 임계점에서 발산
임계 거동	$C(r)\sim r^{-(d-2+\eta)}$, $\xi\sim|t|^{-\nu}$
시간 스케일	적분 자기상관시간 $\tau_{\rm int}$ — 유효표본수를 결정
같은 뿌리	난류 2점 상관 · 은하 $\xi(r)$ · 전파인자 · MD 속도 자기상관

“이 점이 저 점을 얼마나 기억하는가.” 물리학이 무작위해 보이는 계에 던지는 질문의 90%는 결국 이 한 문장이다.

상관함수(correlation function)는 한 요동장의 서로 다른 두 지점 혹은 두 시각의 값이 얼마나 함께 움직이는지를 재는 통계량이며, 스칼라장 $\phi$ 에 대해

$$C(r) = \langle \phi(x)\,\phi(x+r)\rangle - \langle\phi\rangle^2$$

로 정의된다. 평균을 빼는 것이 핵심이다. 빼지 않으면 어느 거리에서든 $\langle\phi\rangle^2$ 이라는 상수 바닥이 깔려 “함께 흔들린다”와 “둘 다 크다”가 구분되지 않는다. 이렇게 평균을 뺀 것을 연결 상관함수(connected correlator)라 부르며, 물리학에서 그냥 상관함수라고 하면 대개 이쪽이다.

이 문서는 흩어진 이름들을 하나로 묶는 것이 목적이다. 난류의 2점 상관, 우주 거대구조의 $\xi(r)$, 양자장론의 전파인자, MCMC 체인의 자기상관, 분자동역학의 속도 자기상관 — 전부 같은 정의의 같은 대상이고, 다른 것은 $\phi$ 가 무엇이고 평균이 무엇에 대한 것인가뿐이다. 푸리에 공간 쪽 이야기와 측정 실무는 파워 스펙트럼 문서가, 난류의 속도 증분 쪽은 구조함수 문서가 이미 깊게 다루므로 여기서는 실공간과 시간축, 그리고 분야를 가로지르는 공통 구조에 집중한다.

2. 정의가 성립하려면 — 균질성과 정상성[편집]

$C$ 가 두 점의 위치가 아니라 차이 $r$ 만의 함수라는 것은 정의가 아니라 가정이다. 통계적 병진 불변성(공간이면 균질, 시간이면 정상)이 있어야 성립한다. 여기에 등방성까지 얹으면 $C(|\mathbf r|)$ 이 된다.

이 전제는 실무에서 자주 조용히 깨진다.

• 벽 근처 난류는 벽 수직 방향으로 균질하지 않다. 그 방향으로 $C$ 를 평균 내면 무의미한 숫자가 나온다.
• MCMC 체인이 아직 번인(burn-in) 중이면 정상 과정이 아니다. 자기상관을 재기 전에 초반을 버리는 이유가 이것이지 미신이 아니다.
• 유한한 서베이 영역·유한한 상자는 경계 자체가 병진 불변을 깬다. 그래서 우주론에서는 랜덤 카탈로그를, 난류 DNS에서는 주기 경계를 쓴다.

기본 성질 세 가지는 기억해 둘 만하다. $C(0)=\sigma^2$ 은 분산이고, 실수장의 정상 과정에서 $C(-r)=C(r)$ 이며, $C$ 는 양의 정부호 함수다. 마지막 성질(보흐너 정리)이 곧 파워 스펙트럼이 음수가 될 수 없다는 사실과 같은 말이고, 실무에서는 “측정한 상관함수를 아무렇게나 매끄럽게 만지면 스펙트럼에 음수가 생긴다”는 함정으로 나타난다.

3. 위너-힌친 — 실공간과 파수공간은 같은 정보다[편집]

정상 과정에서 자기상관함수와 파워 스펙트럼 밀도는 푸리에 변환 쌍이다.

$$S(\omega) = \int_{-\infty}^{\infty} C(\tau)\,e^{-i\omega\tau}\,d\tau, \qquad C(\tau) = \frac{1}{2\pi}\int_{-\infty}^{\infty} S(\omega)\,e^{i\omega\tau}\,d\omega$$

이것이 위너-힌친 정리다. $d$ 차원 등방장이면 각도 적분이 정리돼 베셀 함수(3차원에서는 $\sin kr/kr$)가 붙는 형태가 된다. 정리의 실용적 함의는 잔인할 만큼 단순하다. 둘 중 아무거나 재면 다른 하나는 공짜다. 그런데도 두 통계를 모두 재는 이유는 잡음 구조와 계통 오차가 전혀 다르게 들어오기 때문이다.

	실공간 $C(r)$	파수공간 $S(k)$
계산 비용	쌍 세기, 나이브하게 $O(N^2)$	FFT 로 $O(N\log N)$
잡음 상관	이웃 구간끼리 강하게 상관	가우스 장이면 모드별 거의 독립
좁은 특징	봉우리 하나로 집중	여러 잔물결로 퍼짐
비주기·불규칙 표본	문제없음	창함수·누설과의 싸움

FFT 를 쓸 수 없는 데이터(대기 관측, 불규칙 서베이, 비주기 도메인)에서는 실공간 쪽이 사실상 유일한 선택지다. 반대로 큰 격자 데이터에서 상관함수를 뽑을 때는 FFT 로 스펙트럼을 만든 뒤 역변환하는 것이 쌍을 직접 세는 것보다 훨씬 싸다. 순환 상관이 되지 않도록 배열을 두 배로 늘려 영으로 채우는(zero padding) 처리만 잊지 않으면 된다.

4. 상관길이와 임계점[편집]

대부분의 계에서 $C(r)$ 은 지수적으로 줄어든다.

$$C(r) \sim \frac{e^{-r/\xi}}{r^{(d-1)/2}} \quad (r\gg\xi)$$

여기 등장하는 $\xi$ 가 상관길이다. “이 거리보다 멀면 서로 남”이라는 스케일이며, 파수공간에서는 오른슈타인-체르니케 형태

$$\hat C(k) \propto \frac{1}{k^2+\xi^{-2}}$$

에 대응한다. 로런츠 꼴이라는 것이 우연이 아니다 — 양자장론에서 질량 $m$ 인 입자의 전파인자가 정확히 이 형태이며, 유클리드 상관함수의 감쇠 길이 $\xi$ 와 질량이 $\xi=1/m$ 로 이어진다. “질량이 크다”와 “상관길이가 짧다”는 같은 말이다.

상전이의 임계점에서 $\xi$ 는 발산한다. $t=(T-T_c)/T_c$ 에 대해 $\xi\sim|t|^{-\nu}$ 이고, 임계점 위에서는 지수 감쇠 인자가 사라져 순수한 거듭제곱만 남는다.

$$C(r)\Big|_{T=T_c} \sim \frac{1}{r^{\,d-2+\eta}}$$

여기서 $\eta$ 가 비정상 차원(anomalous dimension)이다. 평균장 이론은 $\eta=0$ 을 주고, 실제 3차원 이징 모형은 $\eta\approx0.036$ 이라는 작지만 확실히 0이 아닌 값을 갖는다. 이 작은 숫자가 재규격화군이 존재해야 하는 이유 전부를 담고 있다 — 임계점에서 특성 스케일이 사라지면 계는 스케일 불변이 되고, 그때 남는 것이 이런 거듭제곱 지수들이다. 그리고 그 지수들이 보편성 부류에만 의존한다는 사실이 자석과 액체-기체 임계점을 같은 표로 묶는다.

수치 실무에서 상관길이는 골칫거리다. $\xi$ 가 상자 크기 $L$ 에 근접하면 측정값이 잘려 나가고, 임계점 근처에서는 몬테카를로의 자기상관시간까지 함께 발산한다(임계 감속). 클러스터 알고리즘이 개발된 이유가 정확히 이것이다.

5. 난류 — 2점 상관에서 구조함수로[편집]

균질·등방 난류에서 속도의 2점 상관은 텐서다. 종방향 성분 $f(r)$ 하나만 두면

$$S_2(r) = \big\langle [u(x+r)-u(x)]^2 \big\rangle = 2\big[C(0)-C(r)\big]$$

라는 관계가 성립한다. 구조함수는 상관함수를 두 번 쓴 것에 불과하다. 그런데도 난류 실험이 구조함수 쪽을 압도적으로 선호하는 이유는 뺄셈이 만드는 성질에 있다. 속도 차를 쓰면 균일한 이송 성분과 저주파 드리프트가 자동으로 상쇄되므로, 평균 유동이 표류하는 실제 실험 데이터에서 훨씬 강건하다. 반면 $C(r)$ 은 $C(0)=\langle u'^2\rangle$ 이라는 큰 수에서 작은 차이를 읽어야 해서 상대 오차가 나쁘다.

상관함수에서 곧장 뽑는 유용한 양은 적분 길이 스케일이다.

$$L_{11} = \int_0^\infty \frac{C(r)}{C(0)}\,dr$$

가장 큰 에너지 함유 소용돌이의 크기를 주며, LES 격자 크기와 계산 상자 크기를 정할 때 실제로 쓰는 숫자다. 다만 이 적분은 꼬리에 극도로 민감하다 — $C(r)$ 의 꼬리가 통계 잡음에 잠기면 적분이 0 근처에서 진동하며 값이 통째로 흔들린다. 이 병은 뒤에 나올 $\tau_{\rm int}$ 추정과 완전히 같은 병이고, 처방도 같다(창을 잘라라).

6. 우주론 — 은하 2점 상관함수와 BAO[편집]

우주론에서 $\xi(r)$ 은 초과 확률로 정의된다. 평균 수밀도 $\bar n$ 인 은하 분포에서 거리 $r$ 떨어진 두 부피 요소에 동시에 은하가 있을 확률이

$$dP = \bar n^2\,[1+\xi(r)]\,dV_1\,dV_2$$

이므로, $\xi>0$ 은 무작위보다 뭉쳐 있다는 뜻이다. 추정은 랜덤 카탈로그를 함께 뿌려 쌍을 세는 방식으로 하며, 경계와 선택 함수의 영향을 최소화하는 표준 추정량이 랜디-샬레이 꼴

$$\hat\xi(r) = \frac{DD - 2DR + RR}{RR}$$

이다. $DD$ 는 데이터-데이터 쌍 수, $DR$ 은 데이터-랜덤, $RR$ 은 랜덤-랜덤이며 각각 정규화한 값이다. 쌍 세기는 나이브하게 $O(N^2)$ 이라 $k$-d 트리나 격자 해싱으로 가속하는 것이 필수이고, 이 부분이 서베이 분석 코드에서 가장 많이 최적화되는 커널이다.

$\xi(r)$ 을 유명하게 만든 것은 약 $150\,\mathrm{Mpc}$(동반좌표) 부근의 작은 봉우리다. 초기 우주에서 광자-바리온 유체를 타고 퍼져 나가다 재결합 시점에 얼어붙은 음파의 지평선이 남긴 흔적이며(바리온 음향 진동), 크기를 아는 자로 쓰여 우주 팽창사를 잰다. 파워 스펙트럼에서는 이 특징이 여러 개의 잔물결로 퍼지는 반면 실공간에서는 봉우리 하나로 뭉쳐 나타난다 — 같은 정보라도 어느 표현에서 보느냐가 실무를 가르는 좋은 사례다. 같은 물리가 우주 마이크로파 배경의 각 스펙트럼 봉우리로도 나타난다.

7. 양자장론과 격자 — 상관함수가 곧 관측량[편집]

양자장론에서 모든 관측 가능한 정보는 상관함수(그린 함수)에 담겨 있다. 생성범함수의 미분으로 $n$ 점 함수가 나오고, 2점 함수가 전파인자, 그 극점이 입자의 질량이다. 자유공간 그린 함수가 임펄스 응답이라는 관점은 여기서도 그대로 유효하다 — 다른 것은 응답이 결정론적 소스가 아니라 진공 요동에 대한 것이라는 점뿐이다.

유클리드 격자로 넘어가면 이 관계가 측정 절차가 된다. 격자 QCD에서 하드론 질량을 어떻게 재는가? 적절한 연산자의 2점 상관함수를 시간 방향으로 재고

$$C(t) \xrightarrow{\ t\ \text{큼}\ } A\,e^{-m t}$$

의 지수 감쇠에서 기울기를 읽는다. 격자 계산이 통계 오차와 벌이는 싸움의 대부분이 이 한 줄에서 나온다. $t$ 를 키우면 들뜬 상태 오염은 줄지만 신호 대 잡음이 지수적으로 나빠지고, $t$ 를 줄이면 반대가 된다. “플래토를 어디서 잡을 것인가”가 논문 심사에서 가장 자주 물어보는 질문인 이유다.

8. 시간 상관 — 유효표본수를 결정하는 것[편집]

시계열에 대해 같은 정의를 쓰면 자기상관함수가 된다. 정규화한 꼴 $\rho(t)=C(t)/C(0)$ 에 대해, 표본 평균의 분산은 독립 표본일 때보다 부풀어 오른다.

$$\mathrm{Var}[\bar\phi] = \frac{\sigma^2}{N}\cdot 2\tau_{\rm int}, \qquad \tau_{\rm int} = \frac12 + \sum_{t=1}^{\infty}\rho(t)$$

여기서 $\tau_{\rm int}$ 가 적분 자기상관시간이다. 결론은 한 줄로 정리된다.

$$N_{\rm eff} = \frac{N}{2\tau_{\rm int}}$$

10만 스텝을 돌렸어도 $\tau_{\rm int}=500$ 이면 실제로 손에 쥔 것은 독립 표본 100개다. MCMC 든 분자동역학이든 이 사실을 무시하면 오차 막대가 태연하게 한 자릿수 작게 보고된다. 유효표본크기 문서가 이 주제를 진단 관행 쪽에서 더 자세히 다룬다.

$\tau_{\rm int}$ 추정 자체가 함정이다. 합을 끝까지 더하면 꼬리의 잡음이 누적돼 추정량의 분산이 발산한다. 표준 처방은 자동 창 자르기 — 어떤 $M$ 까지만 더하되, $M$ 을 그 시점의 추정값의 몇 배($c\,\tau_{\rm int}(M)$, 흔히 $c\approx5\sim10$)로 자기일관되게 정하는 것이다. 대안으로 체인을 길이 $b\gg\tau_{\rm int}$ 인 블록으로 잘라 블록 평균의 분산을 보는 블록(배칭) 분석이 있으며, 상관함수를 직접 안 봐도 된다는 점에서 실무에서 인기가 높다. 둘 다 같은 병(꼬리)을 다른 방식으로 자르는 것이다.

시간 상관은 오차 막대만 주는 게 아니다. 그린-쿠보 관계는 수송계수를 시간 상관 적분으로 준다. 속도 자기상관함수에서 확산계수가

$$D = \frac{1}{3}\int_0^\infty \langle \mathbf v(0)\cdot\mathbf v(t)\rangle\,dt$$

로 나오고, 점성·열전도도도 응력·열류의 자기상관으로 같은 꼴을 갖는다. 평형 요동이 비평형 응답을 결정한다는 요동-소산 정리의 구체적 얼굴이다. 다만 여기서도 긴 꼬리가 값을 지배하며, 3차원 유체의 속도 자기상관에 $t^{-3/2}$ 꼬리가 있다는 사실은 「적분이 잘 수렴하는 줄 알았는데 상자를 키우니 값이 바뀌더라」는 고전적 사고의 원인이다.

9. 실무에서 반복되는 함정[편집]

• 평균을 안 뺐다. 그러면 $C(r)$ 이 어디서든 양수 바닥을 깔고, 상관길이가 무한대로 나온다. 가장 흔한 실수다.
• 추정량의 편향. 지연 $t$ 에서 쓸 수 있는 쌍이 $N-t$ 개뿐이라 $1/(N-t)$ 로 나누면 불편이지만 꼬리 잡음이 폭발하고, $1/N$ 로 나누면 편향되지만 양의 정부호가 보장된다. 스펙트럼을 만들 목적이면 $1/N$ 쪽을 쓴다 — 음의 스펙트럼을 만드느니 조금 편향되는 편이 낫다.
• FFT 순환 상관. 영 채움 없이 FFT 로 상관을 계산하면 배열 끝이 앞으로 감겨 들어온다. 결과 그래프는 그럴듯해 보이는데 꼬리만 틀린다.
• 꼬리를 끝까지 적분했다. $L_{11}$, $\tau_{\rm int}$, 그린-쿠보 적분이 전부 같은 병에 걸린다. 창을 자르고, 자른 위치에 대한 민감도를 보고하는 것이 정답이다.
• 비정상 신호에 정상 도구를 썼다. 추세가 남아 있으면 $\rho(t)$ 가 느리게 감쇠하는 것처럼 보이는데, 그건 상관이 아니라 드리프트다.

10. 여담[편집]

• 실공간 상관함수를 볼 때는 로그-로그 축이 국룰이다. 선형 축에서는 지수 감쇠와 거듭제곱 감쇠가 눈으로 구분이 안 되고, 임계 현상 논의는 이 둘을 구분하는 것이 전부다.
• 상관함수는 가우스 장이면 정보 전부를 담는다. 비가우스해지면 3점·4점 함수가 독립적인 정보를 갖고, 그래서 중력으로 뭉친 우주 거대구조나 강한 간헐성을 보이는 난류에서는 2점만 봐서는 정보를 흘린다. 간헐성 문서가 후자를 다룬다.
• “상관은 인과가 아니다”라는 격언이 통계 교양 수업의 밈이 된 지 오래인데, 물리에서는 사정이 조금 다르다. 상대론적 장론에서는 공간꼴 분리에서 대응하는 교환자가 정확히 0이라 인과 구조가 정리 수준으로 강제된다. 그래도 상관함수 자체는 공간꼴에서 0이 아니다 — 얽힘이 남기 때문이다. 이 미묘한 구분이 EPR 논쟁의 수학적 알맹이다.¹
• 물리학자와 통계학자가 같은 대상을 부르는 이름이 다 다르다. 상관함수, 자기공분산, 그린 함수, 전파인자, 베리오그램, 구조함수, 응답함수, 그리고 액체 이론의 방사분포함수 $g(r)$ … 취업 면접에서 “베리오그램 아세요?”라는 질문에 당황했다면 사실 알고 있었을 확률이 높다.² 참고로 $g(r)$ 과 우주론의 $\xi(r)$ 은 $g(r)=1+\xi(r)$ 로 글자 그대로 같은 양이다 — 한쪽은 아르곤 원자를, 한쪽은 은하를 센다는 것만 다르다.
• 우주론과 난류가 같은 도구를 쓰면서도 서로의 논문을 거의 안 읽는다는 사실은 이 바닥의 오랜 낭비다. 산탄잡음 제거, 창함수 보정, 꼬리 잘라내기 — 각자 따로 발명해서 각자 다른 이름을 붙였다.³

11. 관련 문서[편집]

• 파워 스펙트럼 · 푸리에 변환 · 구조함수 · 간헐성
• 상전이 · 이징 모형 · 재규격화군 · 콜모고로프 스케일
• 그린 함수 · 격자 QCD · 끈 이론 · 경로 적분
• 마르코프 연쇄 몬테카를로 · 유효표본크기 · 분자동역학 · 몬테카를로 방법
• 우주 마이크로파 배경 · 암흑 물질 · 크리깅
• 바리온 음향 진동 · 요동-소산 정리 · 정상 과정 · 방사분포함수

12. Footnotes[편집]

1. 벨 부등식 위반의 요점도 정확히 여기다. 상관은 있는데 신호는 못 보낸다. 이 문장을 처음 듣고 납득하는 사람은 없고, 대부분은 계산을 두 번쯤 해 보고 나서 “납득은 못 했지만 계산은 맞네”로 타협한다. ↩

2. 지구통계학의 베리오그램 $\gamma(r)=\tfrac12\langle[Z(x+r)-Z(x)]^2\rangle$ 는 정확히 난류의 2차 구조함수 절반이고, 정상 과정에서 $\gamma(r)=C(0)-C(r)$ 이다. 분야가 다르면 같은 식에 다른 이름과 다른 인용문헌이 붙는다. ↩

3. 그래도 수입이 아주 없지는 않았다. 우주론의 $P^3M$ 분리는 분자 시뮬레이션 쪽 아이디어를 가져온 것이고, 반대로 크리깅의 공분산 모형은 기계학습의 가우스 과정 회귀로 넘어가 다시 유명해졌다. 이름만 바꿔 달고 30년마다 재발견되는 것이 이 동네 상관함수의 팔자다. ↩