프레셰 평균

통계 수치해석 마지막 수정: 2026-08-26 04:49:53

1. 개요[편집]

프레셰 평균 Fréchet Mean
정의	$\bar x = \arg\min_{p}\ \sum_i w_i\, d(p, x_i)^2$
필요한 구조	거리 하나. 벡터공간·좌표 불필요
유클리드에서	산술평균과 정확히 일치
존재	컴팩트·완비 공간에서 보장
유일성	곡률 $\le 0$ (아다마르/CAT(0))면 항상. 양의 곡률이면 조건부
계산	카르셰 흐름 — 로그 → 평균 → 지수 반복
단골 무대	SPD 행렬, 회전, 형상, 부분공간, 확률분포

회전행렬 세 개를 성분별로 더해 3으로 나누면 회전행렬이 아니다. 그럼 “평균 자세”는 무엇인가?

프레셰 평균은 거리공간 위의 점들에 대해 “제곱거리 합을 최소화하는 점”으로 정의한 평균이다.

\bar x \;=\; \arg\min_{p \in M}\ \sum_{i=1}^{N} w_i\, d(p, x_i)^2, \qquad \sum_i w_i = 1,\ w_i \ge 0

발상의 출발점은 유클리드 공간에서의 자명한 항등식이다. $\sum_i \|p - x_i\|^2$ 를 $p$ 로 미분해 0으로 놓으면 $p = \frac1N\sum_i x_i$ 가 나온다. 즉 산술평균은 원래부터 “제곱거리 합의 최소점”이었고, 덧셈은 그것을 계산하는 지름길이었을 뿐이다. 덧셈이 없는 공간에서도 거리만 있으면 이 정의는 그대로 살아남는다. 모리스 프레셰가 1948년 일반 거리공간의 확률변수를 다루며 이 관점을 제시했고, 카르셰(1977)가 리만 다양체 위에서 존재·유일성과 계산법을 정리해 카르셰 평균이라는 이름도 함께 쓰인다.¹

리만 다양체 문서에도 이 개념이 한 절 나온다. 겹치는 일반론(측지선·지수사상·유일성의 곡률 의존)은 그쪽에 맡기고, 이 문서는 존재·유일성이 정확히 언제 깨지는가, 어떻게 계산하는가, 무대별로 실제 무엇이 쓰이는가에 집중한다.

2. 왜 필요한가 — 성분별 평균이 죽는 자리[편집]

전형적인 사고 사례들이다.

회전. 세 개의 회전행렬을 성분별로 평균하면 직교성이 깨진다. 3차원 회전을 오일러각으로 바꿔 평균하면 짐벌락 근처에서 엉뚱한 답이 나오고, 각도가 $\pm\pi$ 를 넘나들면 ” $179^\circ$ 와 $-179^\circ$ 의 평균은 $0^\circ$ ” 같은 참사가 난다.
대칭 양정부호 행렬. 공분산이나 확산 텐서를 성분별 평균하면 결과는 SPD 지만, 보간·외삽을 조금만 섞으면 행렬식이 부풀어 오르는 팽창 효과가 생긴다.
부분공간. 그라스만 다양체 위의 점들은 기저의 동치류라 성분별 평균이 아예 정의되지 않는다. 기저를 어떻게 뽑았느냐에 따라 답이 달라진다.
확률분포. 두 가우시안의 밀도함수를 평균하면 봉우리가 둘인 혼합분포가 나온다. “중간 분포”를 원했다면 답이 아니다.
형상. 위치·크기·방향을 뺀 순수 형상들의 평균은 좌표를 통째로 평균해서는 안 된다.

공통 구조가 보인다. 데이터가 사는 집합이 벡터공간의 부분집합이지만 선형연산에 대해 닫혀 있지 않다. 프레셰 평균은 선형연산을 아예 요구하지 않는 것으로 이 문제를 우회한다.

3. 존재와 유일성[편집]

존재는 대체로 공짜다. 목적함수 $F(p) = \sum_i w_i d(p,x_i)^2$ 는 연속이므로, 공간이 컴팩트하면 최솟값을 갖는다. 완비 리만 다양체에서는 유한개 데이터에 대해 $F$ 가 강제적(coercive)이므로 호프-리노 정리로 최소점이 존재한다. 문제는 유일성이다.

곡률이 0 이하인 경우 — 항상 유일. CAT(0) 공간(리만 쪽에서는 아다마르 다양체)에서는 제곱거리 함수가 측지선을 따라 강볼록하다.

d^2\bigl(\gamma(t), x\bigr) \;\le\; (1-t)\,d^2(\gamma(0),x) + t\,d^2(\gamma(1),x) - t(1-t)\,d^2(\gamma(0),\gamma(1))

마지막 항이 강볼록성의 여유분이다. 볼록함수의 합도 강볼록이므로 $F$ 의 최소점이 유일하고, 그것을 카르탕 무게중심이라 부른다. 아핀 불변 계량을 얹은 SPD 공간, 나무 공간(계통수의 BHV 공간), 유클리드 공간이 전부 여기 든다.

양의 곡률 — 조건부. 구면에서 정반대편 두 점의 프레셰 평균은 적도 전체다. 실제로 $d(p,N) + d(p,S) = \pi$ 이므로 $d^2 + (\pi-d)^2$ 이 $d = \pi/2$ 에서 최소가 되고, 그런 $p$ 가 원 하나를 이룬다. 유일성이 깨지는 것은 병적인 예외가 아니라 양의 곡률 공간의 기본 성질이다.

처방은 데이터를 충분히 작은 공 안으로 제한하는 것이다. 단면 곡률의 상한을 $\Delta > 0$ , 단사반경을 $\mathrm{inj}(M)$ 이라 할 때 데이터가 반지름

r \;<\; \tfrac12 \min\Bigl\{\, \mathrm{inj}(M),\ \frac{\pi}{\sqrt\Delta} \,\Bigr\}

인 측지 볼록 공 안에 있으면 그 안에서 $F$ 가 강볼록이고 프레셰 평균이 유일하다. 이것이 카르셰 볼록성 반경이며, 이후 켄들(1990)과 아프사리(2011)가 상수를 개선했다. 실무 번역은 간단하다 — 데이터가 흩어져 있으면 평균이 초기값에 의존한다. 자세 데이터가 반구를 넘게 퍼져 있는데 “평균 회전”이 실행마다 달라진다면 이론이 예고한 대로 동작하는 것이다.

병리 사례를 하나 더. 원 위의 균등분포에는 유일한 프레셰 평균이 없다 — 모든 점의 목적함수 값이 동률이라 최소점 집합이 원 전체다. 존재는 하되 하나로 고를 수 없는 것이라, “평균이 있다”와 “평균을 계산할 수 있다”는 다른 얘기다. 그리고 양의 곡률 공간에서는 표본평균의 중심극한정리가 $N^{-1/2}$ 보다 느려지는 “번짐(smeary)” 현상이 나타날 수 있어, 신뢰구간을 유클리드 직관으로 잡으면 틀린다.

4. 계산 — 카르셰 흐름[편집]

목적함수의 리만 경사가

\mathrm{grad}\,F(p) = -2\sum_i w_i \log_p(x_i)

이므로, 스텝 크기 1의 리만 경사하강이 곧 다음 고정점 반복이다.

p^{(k+1)} \;=\; \exp_{p^{(k)}}\Bigl(\, \tau \sum_i w_i \log_{p^{(k)}}(x_i) \Bigr),\qquad \tau = 1

로그로 접공간에 펼치고, 거기서 평범하게 가중평균하고, 지수로 다시 다양체에 올린다. 유클리드에서는 $\log_p(x) = x - p$ 라 한 번에 정확한 답이 나오고, 평평한 계량(로그-유클리드 등)에서도 마찬가지다. 곡률이 있으면 반복이 필요하지만, 데이터가 볼록성 반경 안에 있으면 선형 수렴하고 실무에서는 대개 열 번 안쪽에서 기계정밀도에 도달한다.

주의할 점들.

초기값은 데이터 중 하나 또는 외재 평균으로. 아래 설명할 외재 평균이 닫힌 형태로 나오면 그것을 초기값으로 쓰는 것이 가장 빠르다.
$\tau = 1$ 이 항상 안전하지는 않다. 데이터가 절단 궤적에 걸칠 만큼 퍼져 있으면 발산할 수 있다. $\tau < 1$ 로 줄이거나 선탐색을 붙인다.
$\log$ 가 절단 궤적 근처에서 터진다. 회전각이 $\pi$ 에 가깝거나 SPD 조건수가 크면 야코비안이 폭발한다. 리만 다양체 문서에 같은 경고가 있다.
스트리밍이면 귀납적 평균. $p_k = \gamma\bigl(p_{k-1}, x_k;\ 1/k\bigr)$ , 즉 “이전 평균에서 새 점 쪽으로 측지선을 $1/k$ 만큼 간다”를 반복하면 전체를 저장하지 않고도 평균에 수렴한다(슈투름 2003, 비양곡률 공간에서 수렴 보장). 온라인 처리와 메모리 제약이 있을 때 표준 처방이다.

외재(extrinsic) 평균과 구분하라. 다양체를 주변 유클리드 공간에 매장한 뒤 그냥 산술평균을 내고 다시 다양체로 사영하는 방법이 있다. 닫힌 형태가 나오고 계산이 압도적으로 싸다. $SO(3)$ 에서 $\frac1N\sum_i R_i$ 를 직교 프로크루스테스 문제로 사영하는 것이 정확히 이것이고, 실제로는 코달 거리에 대한 프레셰 평균과 같다. 즉 “어느 거리를 쓰느냐”가 내재/외재를 가르는 것이지, 외재 평균이 틀린 평균인 게 아니다. 두 값은 데이터가 모여 있으면 거의 같고, 퍼져 있으면 눈에 띄게 갈린다. 싸고 안정적인 외재 평균이 필요한 만큼 정확한 경우가 실무에서는 훨씬 많다.

5. 무대별로[편집]

SPD 행렬. 공분산·확산 텐서·강성 행렬이 사는 곳. 아핀 불변 계량에서의 프레셰 평균은 닫힌 형태가 없어 카르셰 흐름을 돌려야 하고, 로그-유클리드 계량에서는 $\bar P = \exp(\frac1N\sum_i\log P_i)$ 로 한 방에 나온다. 두 계량의 성격 차이는 리만 다양체 문서에서 다루므로 여기서는 응용만 짚는다. 확산텐서영상의 텐서 평활·보간·통계 검정, 뇌-컴퓨터 인터페이스의 접공간 분류, 계량 학습이 전부 이 평균을 부른다. 참고로 두 SPD 행렬의 프레셰 평균은 행렬 기하평균 $P^{1/2}(P^{-1/2}QP^{-1/2})^{1/2}P^{1/2}$ 이고(행렬함수 참조), 셋 이상에서는 닫힌 형태가 사라진다. “세 개 이상의 행렬 기하평균을 무엇으로 정의할 것인가”가 오래 논쟁거리였던 것도 그래서다.

회전과 자세. 세 가지 답이 있다.

방식	거리	계산
코달(외재) 평균	$\lVert R - S\rVert_F$	$\frac1N\sum R_i$ 를 $SO(3)$ 로 사영 — 닫힌 형태
측지 평균	회전각 $\lVert\log(R^{\mathsf T}S)\rVert$	카르셰 흐름 반복
사원수 고유벡터	사원수 코달	$\sum_i w_i q_i q_i^{\mathsf T}$ 의 최대 고유벡터

셋째 방식은 마클리 등(2007)의 결과로, 사원수의 부호 모호성( $q$ 와 $-q$ 가 같은 회전)을 고유벡터 문제로 자동 해소한다는 것이 요점이다. 사원수를 성분별로 평균하다가 부호가 섞여 엉뚱한 방향이 나오는 사고를 원천 차단한다. 다중 카메라 자세 추정이나 구조복원의 회전 평균에서는 이상치가 많아 제곱거리 대신 프레셰 중앙값( $\ell_1$ , 아래 참조)을 쓰는 것이 정론이 됐다.

형상. 켄들 형상공간은 랜드마크 좌표에서 평행이동·스케일·회전을 몫으로 나눈 공간이며, 평면 형상의 경우 복소사영공간이 된다. 여기서의 프레셰 평균이 곧 직교 프로크루스테스 문제 문서에 나온 일반화 프로크루스테스 분석의 극한이다. 두 문서가 같은 대상을 양쪽에서 바라보는 셈이다. 곡률이 양수라 데이터가 퍼지면 유일성이 깨지고, 생물 형태측정학에서 “평균 두개골 형상”이 표본에 민감한 현상이 그것이다.

부분공간. 그라스만 다양체 위의 프레셰 평균이 “여러 부분공간의 대표 부분공간”이다. 코달 거리를 쓰면 $\frac1N\sum_i X_iX_i^{\mathsf T}$ 의 상위 $p$ 고유공간이라는 닫힌 형태가 나오고, 측지 거리를 쓰면 반복이 필요하다. 적합직교분해 기저를 여러 조건에서 뽑아 합칠 때, 앙상블 부분공간 추적, 다시점 학습이 무대다.

확률분포. 거리를 바서슈타인 거리로 잡으면 프레셰 평균이 바서슈타인 무게중심이 된다(아게·카를리에 2011). 두 가우시안의 무게중심은 다시 가우시안이고, 밀도를 평균했을 때 나오던 쌍봉이 사라지고 봉우리가 매끄럽게 옮겨 간다. 이미지 색분포 보간, 텍스처 합성, 분산 베이즈 추론의 후방분포 병합에 쓰인다. 자세한 것은 최적수송 문서.

6. 평균 너머[편집]

프레셰 분산. 최솟값 자체 $V = \min_p\sum_i w_i d(p,x_i)^2$ 가 흩어짐의 척도가 된다. 좌표가 없어도 분산을 말할 수 있다는 것이 이 정의의 힘이고, 다양체 위의 ANOVA·검정통계량이 여기서 시작한다.

프레셰 중앙값. 제곱을 1제곱으로 바꾸면 $\arg\min_p \sum_i w_i\, d(p,x_i)$ , 즉 다양체판 기하중앙값이다. 이상치에 훨씬 강하고, 유클리드에서 바이스펠트 알고리즘이 하던 일을 리만 버전으로 그대로 옮길 수 있다. 회전 평균, 로봇 자세 융합처럼 이상치가 일상인 무대에서는 아예 기본값으로 삼을 만하다.

주측지분석(PGA). 프레셰 평균을 원점 삼아 접공간으로 로그를 취한 뒤 주성분 분석을 돌린다. 평균이 없으면 PCA 도 없으므로, 프레셰 평균은 다양체 통계 전체의 1번 벽돌이다.

군집화. k-평균 군집화의 “평균 갱신” 단계를 프레셰 평균으로 바꾸면 곧바로 리만 k-평균이 된다. 알고리즘 골격은 손댈 것이 없다 — 유클리드 k-평균이 애초에 “제곱거리 합 최소화”였기 때문이다. 다양체 학습에서 다양체가 미지인 경우와는 다른 얘기이니 혼동하지 말 것.²

7. 실무 체크리스트[편집]

어느 거리를 쓸지부터 정하라. 프레셰 평균은 거리가 정해져야 정의된다. “리만 평균”이라는 말만으로는 값이 결정되지 않는다.
데이터가 얼마나 퍼져 있는지 재라. 최대 쌍거리가 볼록성 반경을 넘으면 유일성 보장이 없다. 여러 초기값에서 돌려 보고 결과가 갈리면 그것이 답이다.
싼 것부터 시도한다. 외재 평균이나 평평한 계량으로 먼저 값을 얻고, 그게 부족할 때만 카르셰 흐름으로 간다.
수렴 판정은 $\lVert\sum_i w_i\log_p(x_i)\rVert$ 로. 이게 리만 경사이므로 좌표 변화량이 아니라 이 노름을 본다.
이상치가 있으면 중앙값. 제곱거리는 유클리드에서와 똑같이 이상치에 약하고, 곡률이 있으면 더 나빠진다.

8. 관련 문서[편집]

리만 다양체 · 그라스만 다양체 · 스티펠 다양체 · 직교 프로크루스테스 문제
회전행렬 · 사원수 · 리 군 · 행렬함수 · 행렬 제곱근
주성분 분석 · 적합직교분해 · k-평균 군집화 · 특이값 분해
최적수송 · 정보 기하 · 경사하강법 · 몬테카를로 방법
확산텐서영상 · 자세 추정 · 다양체 학습

이름이 둘인 데다 “카르셰 평균은 임계점 전부, 프레셰 평균은 전역 최소점만”으로 구분하자는 제안까지 있어서 논문마다 용법이 조금씩 다르다. 카르셰 본인이 2014년에 “내 이름을 붙인 건 내가 아니다”라는 취지의 해명 노트를 arXiv 에 올린 적도 있다. 읽는 쪽에서는 그 논문이 전역 최소를 말하는지 임계점을 말하는지만 확인하면 된다. ↩
계통수 공간(BHV)에서는 더 기묘한 일이 벌어진다. 이 공간은 CAT(0)라 평균이 유일한데, 데이터를 조금 흔들어도 평균이 꼼짝도 안 하는 “끈적한(sticky) 평균” 현상이 나타난다. 표본이 늘어도 평균이 특정 저차원 구역에 붙어 버리는 것이라, 유클리드 직관으로 “평균은 데이터를 따라 매끄럽게 움직인다”고 믿고 짠 검정은 여기서 전부 무효가 된다. 곡률이 통계에 하는 짓은 대체로 이런 식이다. ↩