멱법칙

통계 계산물리 마지막 수정: 2026-07-28 05:39:58

1. 개요[편집]

멱법칙(power law)은 어떤 양의 확률밀도(또는 빈도)가 크기의 거듭제곱에 반비례하는 관계, 즉

p(x) \propto x^{-\alpha} \qquad (x \ge x_{\min})

로 표현되는 분포 법칙이다. 지진 규모, 도시 인구, 웹 그래프의 차수, 산불 면적, 소득, 파일 크기, 단어 빈도가 전부 이 꼴로 관측된다고 보고돼 왔다. 로그-로그 축에 그리면 직선이 되고, 그 기울기가 $-\alpha$ 다.

멱법칙이 통계학에서 특별 취급을 받는 이유는 두 가지다. 첫째, 특성 크기가 없다. 정규분포는 “대략 이 정도”라는 평균과 폭이 있어서 그보다 훨씬 큰 사건은 사실상 일어나지 않지만, 멱법칙은 어느 스케일에서 봐도 같은 모양이라 “전형적인 크기”라는 개념 자체가 성립하지 않는다. 둘째, 그 결과로 꼬리가 전체를 지배한다. 평균 근처의 수많은 사건이 아니라 극소수의 거대 사건이 총합의 대부분을 만든다. 공학적으로는 “평균값을 설계 기준으로 삼으면 안 되는 상황”의 대표 사례다.¹

여기서 조심할 것 하나. 실제 데이터에서 멱법칙이라고 주장되는 것과 검정을 통과하는 것은 전혀 다른 이야기이며, 이 문서의 절반은 그 이야기다.

2. 스케일 불변성이라는 정의[편집]

$p(x) = Cx^{-\alpha}$ 에서 $x$ 를 $bx$ 로 바꾸면

p(bx) = C(bx)^{-\alpha} = b^{-\alpha} p(x)

즉 축척을 바꾸면 전체가 상수배로 눌릴 뿐 모양이 그대로다. 사실 $f(bx) = g(b) f(x)$ 를 모든 $b$ 에 대해 만족하는 함수는 멱함수밖에 없다. “스케일 불변 = 멱법칙”은 유추가 아니라 정리다. 재규격화군이 임계점에서 멱법칙을 뱉는 것도, 프랙탈의 크기-개수 관계가 멱법칙인 것도 전부 이 한 줄에서 나온다.

$x_{\min}$ 이 정의에 붙어 있는 것도 중요하다. $x \to 0$ 에서 $x^{-\alpha}$ 는 발산하므로 정규화가 안 된다. 현실의 멱법칙은 언제나 어떤 하한 위쪽 꼬리에서만 성립하며, 이 $x_{\min}$ 을 어디로 잡느냐가 곧 추정 문제의 핵심이 된다. 표현 방식에 따라 지수가 1씩 달라지는 것도 사고의 단골 원인이다. 확률밀도가 $x^{-\alpha}$ 면 상보 누적분포는 $P(X > x) \propto x^{-(\alpha-1)}$ 이고(이게 파레토 표현), 순위-크기로 그리면 지수가 $1/(\alpha-1)$ 이 된다(지프 표현). 논문마다 “지수가 2다/3다”가 엇갈리면 십중팔구 셋 중 무엇을 쟀는지가 다른 것이다.²

3. 발산하는 모멘트[편집]

$m$ 차 모멘트는

\langle x^{m} \rangle = \int_{x_{\min}}^{\infty} x^{m}\, C x^{-\alpha}\, dx

이고, 이 적분은 $m < \alpha - 1$ 일 때만 유한하다. 그래서

$\alpha \le 2$ → 평균이 발산한다.
$\alpha \le 3$ → 분산이 발산한다.

관측된 지수가 대개 $2 \sim 3$ 사이라는 점이 고약하다. 평균은 있는데 분산이 없는 영역이라는 뜻이기 때문이다. 분산이 없으면 어떻게 되는가. 표본분산은 표본을 늘릴수록 수렴하지 않고 계속 커진다. 표본평균에 대한 중심극한정리도 무너져서, 합의 극한분포가 정규분포가 아니라 레비 안정분포가 된다. 오차막대를 $\sigma/\sqrt{N}$ 으로 그리는 습관이 통째로 무효가 되는 것이다.

수치 실험 쪽에서 이게 직접 아픈 지점은 몬테카를로 방법의 수렴이다. 표본 함수의 분산이 무한하면 MC 오차의 $N^{-1/2}$ 법칙이 성립하지 않고, 추정값이 가끔 튀어나오는 거대 표본 하나에 통째로 끌려다닌다. “돌릴수록 답이 안정된다”는 기대 자체가 근거를 잃는다. 중요도 표본추출이나 꼬리 절단이 그래서 선택이 아니라 필수가 된다.

4. 지수 추정 — 로그-로그 회귀가 왜 틀리나[편집]

가장 흔한 방법이 가장 나쁜 방법이라는 게 이 분야의 슬픈 사실이다. 히스토그램을 로그-로그에 그리고 직선을 최소제곱 적합하는 절차는 다음 이유로 편향된다.

꼬리 쪽 구간에는 표본이 0개 또는 1~2개라 상대오차가 폭발하는데, 최소제곱은 그 점들을 잘 채워진 앞쪽 점들과 같은 무게로 취급한다.
로그를 취하면 오차의 정규성·등분산 가정이 깨진다. 회귀의 전제가 이미 틀렸다.
빈 구간을 그냥 버리면 꼬리가 인위적으로 가팔라지고, 로그 간격 비닝을 쓰면 결과가 비닝 방식에 의존한다.
무엇보다 $R^2$ 가 0.98쯤 나오는 건 아무것도 보장하지 않는다. 로그-로그에서는 거의 모든 완만한 감소 함수가 몇 데케이드 정도는 직선처럼 보인다.

표준 절차는 클로짓·샬리지·뉴먼(2009)이 정리한 3단 파이프라인이다.

첫째, MLE로 지수를 추정한다. 연속형에서 힐 추정량은

\hat{\alpha} = 1 + n \left[ \sum_{i=1}^{n} \ln \frac{x_{i}}{x_{\min}} \right]^{-1}

이고 표준오차는 $(\hat{\alpha}-1)/\sqrt{n}$ 이다. 회귀와 달리 편향이 통제된다.

둘째, $x_{\min}$ 을 KS 거리로 고른다. 후보 $x_{\min}$ 마다 위 MLE를 돌리고, 경험적 CDF와 적합된 CDF 사이의 콜모고로프-스미르노프 거리를 최소로 만드는 값을 택한다. “꼬리를 어디서부터 볼까”를 눈대중이 아니라 데이터가 정하게 하는 절차다.

셋째, 적합도 검정과 대안 비교. 반모수 부트스트랩으로 KS 통계량의 $p$ 값을 뽑아 멱법칙 가설 자체를 기각할지 보고, 그 다음 로그정규·지수·늘린지수·절단 멱법칙과 부옹(Vuong) 우도비 검정으로 어느 쪽이 더 나은지 비교한다.

이 파이프라인을 문헌의 유명한 “멱법칙” 데이터셋 24종에 적용한 결과, 상당수가 멱법칙 가설을 통과하지 못하거나 로그정규와 구별되지 않았다. 로그-로그 직선 눈대중으로 발표된 멱법칙의 상당수가 실은 검정된 적이 없다는 뜻이다.³

5. 로그정규는 왜 그렇게 헷갈리나[편집]

로그정규분포 $\ln x \sim \mathcal{N}(\mu, \sigma^{2})$ 의 로그-로그 그래프는

\ln p(x) = -\ln x - \frac{(\ln x - \mu)^{2}}{2\sigma^{2}} + \text{const}

로, $\ln x$ 에 대한 아래로 볼록한 포물선이다. 그런데 $\sigma$ 가 크면 포물선의 곡률이 작아져서, 관측 가능한 2~3 데케이드 구간에서는 직선과 사실상 구별이 안 된다. 곱셈적 확률과정(각 단계에서 임의 비율로 커지는 과정)은 자연스럽게 로그정규를 만들고, 여기에 하한 반사벽이나 초기화 항을 하나 얹으면 진짜 멱법칙이 되기 때문에, 생성 메커니즘조차 이웃 사이다. 둘을 통계적으로 가르려면 데케이드 수가 많고 표본이 큰 데이터가 필요하며, 없으면 “구별 못 함”이라고 보고하는 게 정직하다.

6. 어디서 나오나[편집]

임계현상: 퍼콜레이션에서 $p = p_c$ 일 때 클러스터 크기 분포는 $n_s \sim s^{-\tau}$ 로 정확히 멱법칙이고, $p$ 가 임계점에서 조금만 벗어나면 지수적 절단이 붙는다. 즉 순수한 멱법칙은 파라미터를 정확히 맞췄을 때만 나온다. 상전이의 임계 요동, 이징 모형의 상관함수도 같은 구조다.
자기조직화 임계성: 모래더미 모형처럼 계가 스스로 임계점으로 기어 올라가 사태 크기 분포가 멱법칙이 되는 부류. 파라미터 튜닝 없이 멱법칙이 나온다는 게 이 개념의 판매 포인트였다(자기조직화 참고).
선호적 연결: 새 노드가 이미 연결이 많은 노드에 붙을 확률이 차수에 비례하면 차수 분포가 멱법칙이 된다(율-사이먼, 바라바시-알버트에서 지수 3). 무척도 네트워크 논쟁의 출발점.
지진: 구텐베르크-리히터 법칙 $\log_{10} N = a - bM$ 은 규모에 대해 지수적이지만, 규모가 에너지의 로그이므로 에너지에 대해서는 멱법칙이다. $b \approx 1$ 이 세계 평균.
난류: 간헐성에서 속도 증분의 구조함수가 $\langle \delta u_r^{p} \rangle \sim r^{\zeta_p}$ 로 멱법칙이고, $\zeta_p$ 가 $p/3$ 에서 휘는 것이 다중프랙탈성의 증거로 쓰인다. 여기서는 지수가 아니라 지수의 곡률이 정보를 담는다.
재료·신뢰성: 취성 재료의 강도 산포는 최약 링크 논리에서 나오는 와이불이고, 그 밑에는 결함 크기 분포의 멱법칙 꼬리가 깔려 있다. 피로 해석에서 수명 산포가 로그정규냐 와이불이냐로 싸우는 것도 결국 같은 꼬리 문제다.

7. 극값 통계와의 관계[편집]

극값 통계와 이 문서는 같은 꼬리를 다른 방향에서 본다. 극값 통계는 “최댓값이 어떤 분포로 수렴하는가”를 묻고 GEV·GPD로 답하며, 멱법칙은 “꼬리 자체가 어떤 함수 형태인가”를 묻는다. 둘은 정확한 대응 관계로 연결된다. 꼬리가 정칙 변동(regularly varying)하는 멱법칙 분포는 정확히 극값 이론의 프레셰 흡인영역에 속하고, 그때 GEV의 형상모수는 $\xi = 1/(\alpha-1) > 0$ 이다. 반대로 꼬리가 지수보다 빨리 죽으면 굼벨 영역, 유한한 상한이 있으면 바이불 영역이다. 그래서 실무에서는 순서가 이렇게 된다. 꼬리가 멱법칙인지 먼저 검정하고, 맞다면 GPD의 형상모수가 양수로 나올 것을 예상하며, 재현주기 계산에 무한 분산의 함의를 반영한다. 이 순서를 건너뛰고 정규분포 가정으로 설계값을 뽑으면, 100년에 한 번 오는 사건을 10만 년에 한 번이라고 보고하게 된다.⁴

8. 관련 문서[편집]

“80대 20 법칙”으로 알려진 파레토 원리가 바로 이 분포의 대중판이다. 참고로 상위 20%가 80%를 갖는다는 비율은 $\alpha$ 가 특정 값일 때 나오는 것이지 멱법칙의 보편 성질이 아니다. 지수가 더 작으면 상위 1%가 90%를 갖는 세상도 얼마든지 가능하다. ↩
리뷰어와 싸우기 싫으면 논문에 “밀도 지수 기준”이라고 명시하자. 이거 하나로 리비전 한 라운드를 아낄 수 있다. ↩
Clauset, Shalizi & Newman (2009), Power-law distributions in empirical data, SIAM Review. 이 논문 이후로 “로그-로그에 직선이 보인다”만 근거로 제시한 원고는 리뷰에서 바로 걸린다. 저자들이 배포한 코드가 그대로 표준 도구가 됐다. ↩
그리고 이런 종류의 과소평가는 대개 사고 조사보고서에서 “당시 통계 모형은 정규성을 가정하고 있었다”라는 한 문장으로 요약된다. ↩

멱법칙