리만 제타 함수

1. 개요

리만 제타 함수 Riemann Zeta Function
정의	$\zeta(s) = \sum_{n\ge1} n^{-s}$ ($\mathrm{Re}\,s > 1$)
오일러 곱	$\zeta(s) = \prod_p (1 - p^{-s})^{-1}$
극	$s = 1$ 에서 1차 극, 유수 1
자명한 영점	$s = -2, -4, -6, \dots$
첫 비자명 영점	$s = \tfrac12 + 14.134725\ldots i$
물리에 나오는 값	$\zeta(3/2) = 2.6124$, $\zeta(3) = 1.2021$, $\zeta(4) = \pi^4/90$
계산법	오일러-매클로린, 보르바인 교대급수 가속, 리만-지겔 공식

정수론의 최대 미해결 문제의 주인공. 그리고 통계역학 교과서에서 적분 하나 하면 튀어나오는 상수.

리만 제타 함수(Riemann zeta function)는 실수부가 1 보다 큰 복소수 $s$ 에서

$$\zeta(s) = \sum_{n=1}^{\infty} \frac{1}{n^s}$$

로 정의되고, 해석적 연속으로 $s = 1$ 을 뺀 복소평면 전체로 넓힌 함수다. 오일러가 실수 $s$ 에서 먼저 다뤘고(1735년 바젤 문제 $\zeta(2) = \pi^2/6$, 1737년 소수 곱 공식), 리만이 1859년 논문 한 편에서 복소함수로 확장해 소수 분포와 연결했다. 그 논문 한 구석의 추측 — 비자명 영점이 모두 실수부 $1/2$ 위에 있다 — 이 리만 가설이다.

심위키 입장에서 제타 함수가 나오는 자리는 두 곳이다. 하나는 물리의 적분이다. 보스·페르미 분포를 에너지로 적분하면 $\Gamma(s)\zeta(s)$ 가 나오고, 흑체복사·보스-아인슈타인 응축·카시미르 효과의 상수가 전부 제타값이다. 다른 하나는 계산 그 자체다. 이 급수는 수렴이 느리기로 유명해서, 급수 가속·점근 전개·FFT 기반 다점 평가의 교과서적 시험대 노릇을 해 왔다. 리만 가설의 수치 검증은 수십 년 동안 고성능 계산의 자랑거리였다.

2. 성질

오일러 곱. $\mathrm{Re}\,s > 1$ 에서

$$\zeta(s) = \prod_{p\ \text{소수}} \frac{1}{1 - p^{-s}}$$

이다. 모든 자연수가 소수 곱으로 유일하게 분해된다는 사실을 무한곱으로 쓴 것뿐이지만, 이 식 때문에 제타의 영점 위치가 소수의 분포를 지배한다. $s \to 1^+$ 에서 좌변이 발산하므로 소수가 무한히 많다는 것도 한 줄로 나온다.

함수 방정식. 해석적 연속된 제타는

$$\zeta(s) = 2^s \pi^{s-1} \sin\!\Bigl(\frac{\pi s}{2}\Bigr) \Gamma(1-s)\, \zeta(1-s)$$

를 만족한다. $s$ 와 $1-s$ 를 잇는 대칭이라, 실수부 $1/2$ 인 직선(임계선)이 대칭축이 된다. 음의 짝수에서 $\sin$ 이 0 이 되어 자명한 영점 $-2, -4, \dots$ 이 생기고, 나머지 영점은 모두 $0 < \mathrm{Re}\,s < 1$ 인 임계띠 안에 있다. 감마 함수가 여기서 핵심 부품으로 들어간다.

특수값. 짝수점은 베르누이 수로 닫힌꼴이 있다: $\zeta(2n) = (-1)^{n+1}B_{2n}(2\pi)^{2n}/(2(2n)!)$. 음의 정수에서는 $\zeta(-n) = -B_{n+1}/(n+1)$ 이라 $\zeta(0) = -1/2$, $\zeta(-1) = -1/12$, $\zeta(-3) = 1/120$ 이다. 홀수점 $\zeta(3) = 1.2020569\ldots$ (아페리 상수, 1979년 무리수 증명¹) 같은 값은 닫힌꼴이 알려져 있지 않다. $\zeta(1/2) = -1.4603545\ldots$ 처럼 급수가 발산하는 곳의 값도 해석적 연속으로 잘 정의된다.

영점 개수. 높이 $T$ 까지 임계띠 안의 영점 수는 대략

$$N(T) \approx \frac{T}{2\pi}\ln\frac{T}{2\pi e} + \frac78$$

이다(리만-폰 망골트 공식). 높이가 올라갈수록 영점 간격이 $2\pi/\ln(T/2\pi)$ 로 좁아진다.

3. 물리에서 만나는 제타값

보스형 적분의 기본형은

$$\int_0^\infty \frac{x^{s-1}}{e^x - 1}\,dx = \Gamma(s)\,\zeta(s)$$

이다. 페르미형($e^x + 1$)이면 $\zeta$ 대신 디리클레 에타 $\eta(s) = (1 - 2^{1-s})\zeta(s)$ 가 나온다.

• 흑체복사. $s = 4$ 를 넣으면 $\Gamma(4)\zeta(4) = 6\cdot\pi^4/90 = \pi^4/15$. 슈테판-볼츠만 상수 $\sigma = 2\pi^5 k_B^4/(15h^3c^2)$ 의 $\pi^5/15$ 가 여기서 온다(흑체복사).
• 보스-아인슈타인 응축. 3차원 이상 보스 기체의 임계 조건은 $n\lambda_T^3 = \zeta(3/2) \approx 2.612$ 다($\lambda_T$ 는 열적 드브로이 파장). 보스-아인슈타인 응축 시뮬레이션에서 임계 온도를 잡을 때 이 숫자 하나가 기준점이다.
• 카시미르 효과. 평행 도체판 사이 진공 에너지의 발산하는 모드 합 $\sum n^3$ 을 제타 정칙화로 $\zeta(-3) = 1/120$ 으로 바꾸면 단위 면적당 에너지 $-\pi^2\hbar c/(720a^3)$ 이 나온다. 「$1 + 8 + 27 + \cdots = 1/120$」 을 문자 그대로 믿으면 안 되고, 컷오프를 넣어 계산한 유한 부분이 해석적 연속과 일치한다는 뜻이다².
• 격자 합. 결정의 정전기 에너지(마델룽 상수)는 $\sum \lvert\mathbf n\rvert^{-s}$ 꼴 격자 합으로, 제타의 다차원판인 엡스타인 제타 함수다. 조건부 수렴이라 그대로 더하면 안 되고 에발트 합산으로 실공간·역공간을 나눠 계산한다.

4. 어떻게 계산하나

그냥 더하면 안 된다. $\zeta(2)$ 의 부분합 오차는 $N = 10, 100, 1000$ 에서 각각 $0.095$, $0.00995$, $0.0009995$ 로, 정확히 $1/N$ 꼴로 줄어든다. 16자리를 얻으려면 $10^{16}$ 항이 필요하다. $\mathrm{Re}\,s \le 1$ 에서는 아예 발산한다.

오일러-매클로린. 앞 $N-1$ 항은 직접 더하고 꼬리를 오일러-매클로린 공식으로 처리한다.

$$\zeta(s) \approx \sum_{n=1}^{N-1} n^{-s} + \frac{N^{1-s}}{s-1} + \frac{N^{-s}}{2} + \sum_{j=1}^{M} \frac{B_{2j}}{(2j)!}\, s(s+1)\cdots(s+2j-2)\, N^{-s-2j+1}$$

$N = 10$, $M = 6$ 이면 $s = 2, 3, 3/2, 1/2$ 모두에서 오차가 $1.3\times10^{-15}$ 이하다. 열 개 더하고 보정 여섯 개로 배정밀도가 끝난다. 이 식은 $s = 1/2$ 처럼 급수가 발산하는 곳에서도 그대로 쓰인다 — 해석적 연속을 공짜로 계산하는 셈이다. 다만 점근 급수라서 $\lvert s\rvert$ 가 커지면 $N$ 을 $\lvert s\rvert$ 에 비례해 키워야 한다.

보르바인 알고리즘. $\eta(s) = \sum (-1)^{n-1}n^{-s}$ 는 $\mathrm{Re}\,s > 0$ 에서 수렴하는 교대급수이고, 체비쇼프 다항식에서 나온 가중치 $d_k$ 로 급수 가속을 하면 오차가 $(3+\sqrt8)^{-n} \approx 5.83^{-n}$ 으로 줄어든다. $n = 20$ 항으로 $\zeta(1/2)$ 의 오차가 $4.4\times10^{-16}$ 이다. 그다음 $\zeta(s) = \eta(s)/(1 - 2^{1-s})$ 로 되돌린다($s = 1$ 근처는 분모가 0 이 되니 따로 처리). 짧고 분기가 없어 임계띠 안의 낮은 높이에서는 가장 편한 방법이다.

리만-지겔 공식. 임계선 위 큰 높이 $t$ 에서는 실수값 함수

$$Z(t) = e^{i\theta(t)}\zeta\bigl(\tfrac12 + it\bigr),\qquad \theta(t) = \arg\Gamma\bigl(\tfrac14 + \tfrac{it}{2}\bigr) - \frac{t}{2}\ln\pi$$

를 쓰고, $Z(t) \approx 2\sum_{n \le \sqrt{t/2\pi}} n^{-1/2}\cos(\theta(t) - t\ln n) + R(t)$ 로 계산한다. 항 수가 $\sqrt{t/2\pi}$ 뿐이라 $t = 10^{12}$ 에서도 40만 항이면 된다. $Z(t)$ 는 실수이므로 부호가 바뀌는 곳 = 임계선 위의 영점이고, 영점 탐색은 결국 실함수 근 찾기(이분법)로 바뀐다. 리만이 생전에 발표하지 않은 이 공식은 그의 유고 노트에서 지겔이 1932년에 복원했다³.

다점 평가. 오들리츠코-쇤하게(1988) 알고리즘은 많은 $t$ 에서의 리만-지겔 주합을 FFT 와 유리함수 보간으로 한꺼번에 계산해, 평가당 비용을 $t^{1/2}$ 에서 $t^{\varepsilon}$ 수준으로 떨어뜨린다. 오들리츠코가 $10^{20}$ 번째 근처 영점 수억 개를 계산해 영점 간격 분포가 무작위 행렬(GUE)의 고유값 간격 분포와 맞는다는 것을 보인 것이 이 알고리즘 덕분이다. 고속 다중극자법과 같은 「많은 점에서 합을 한꺼번에」 계열의 사고방식이다.

검증의 현황. 리만 가설은 증명되지 않았지만, 임계선 위에 있음을 엄밀한 구간 산술로 확인한 범위는 꾸준히 올라왔다. 플랫·트러지언(2021)은 높이 $3\times10^{12}$ 이하의 비자명 영점이 전부 임계선 위에 있음을 검증했다. 「여기까지 반례 없음」 이 증명은 아니지만, 수치해석이 순수수학에 줄 수 있는 가장 단단한 증거 형태다.

5. 관련 문서

• 감마 함수 · 베르누이 수 · 오일러-매클로린 공식 · 점근 급수
• 복소해석 · 섕크스 변환 · 이분법 · 고속 푸리에 변환
• 보스-아인슈타인 응축 · 흑체복사 · 에발트 합산
• 리만 가설 · 해석적 연속 · 카시미르 효과 · 푸아송 합 공식

6. Footnotes

1. 아페리가 1978년 학회에서 증명을 발표했을 때 청중 상당수가 반신반의했고, 몇몇 수학자가 컴퓨터로 수열을 계산해 주장들을 하나씩 확인한 뒤에야 받아들여졌다. 순수수학 증명의 검증에 수치 계산이 쓰인 초기 사례. ↩

2. 「$1 + 2 + 3 + \cdots = -1/12$」 짤이 유튜브에서 돌 때마다 수학과 단톡방이 불탄다. 라마누잔이 하디에게 보낸 편지에도 이 식이 있었는데, 하디는 결국 그를 케임브리지로 불렀다. 같은 식을 써도 맥락이 있으면 천재, 없으면 어그로. ↩

3. 리만의 연구 노트가 남아 있었고, 지겔이 70년 묵은 낙서에서 공식을 복원해 냈다. 리만은 이걸로 첫 영점 몇 개를 손으로 계산했던 것으로 보인다. 「계산 안 하고 추측만 했겠지」라는 통념이 깨진 사례. ↩