1. 개요[편집]
다항식 카오스 전개(Polynomial Chaos Expansion, PCE)는 확률변수 입력을 받는 모형의 출력을, 그 입력에 직교하는 다항식들의 급수로 펼치는 방법이다. 입력 확률변수 벡터를 , 출력을 라 하면
로 쓴다. 입력의 확률측도에 대해 직교인 직교다항식을 기저로 쓴다는 것이 전부이자 핵심이다. 위너가 1938년 가우스 확률과정에 대해 에르미트 다항식으로 처음 만들었고(“균질 카오스”), 시우·카르니아다키스가 2002년 다른 분포로 확장해 오늘날의 형태가 됐다.
불확실성 정량화에서 PCE가 특별한 대접을 받는 이유는 단순하다. 계수만 구하면 평균·분산·소볼 지수가 전부 공짜로 떨어진다.
2. 아스키 스킴 — 분포마다 다른 기저[편집]
직교성은 입력 분포의 가중함수에 대해 정의되므로, 분포가 바뀌면 기저도 바뀐다. 이 대응표를 아스키 스킴(Askey scheme)이라 부른다.
| 입력 분포 | 직교다항식 | 정의역 |
|---|---|---|
| 정규 | 에르미트 | |
| 균등 | 르장드르 | |
| 감마(지수 포함) | 라게르 | |
| 베타 | 야코비 | |
| 푸아송(이산) | 샤를리에 |
입력이 이 목록에 없으면 로젠블랫 변환이나 나타프 변환으로 표준 확률변수 공간으로 보낸 뒤 전개한다. 이때 변환의 비선형성이 전개에 그대로 얹히므로 필요한 차수가 올라간다는 점은 감수해야 한다.1
3. 절단과 차원의 저주[편집]
무한 급수를 그대로 쓸 수는 없으니 총차수 이하로 자른다. 항의 개수는
로, 이면 286개, 면 10,626개다. 입력 차원이 커지면 계수 개수 자체가 폭발한다. 이것이 PCE의 제1 한계이며, 대응책이 세 갈래로 갈린다.
- 쌍곡 절단(hyperbolic truncation): 로 을 쓰면 고차 상호작용 항이 먼저 잘려 나간다. 물리 모형에서 고차 교차항이 대개 작다는 경험칙을 이용한 것.
- 희소 PCE: 최소각회귀(LARS)나 압축센싱으로 유효한 계수만 골라낸다. 블라트만·수덜의 적응 희소 PCE가 사실상 표준이 됐다.
- 저차 상호작용 제한: 동시에 활성화되는 변수 수를 2~3개로 묶는다.
4. 계수를 구하는 두 노선[편집]
4.1. 침입형 — 확률 갤러킨[편집]
지배방정식에 전개를 대입하고 각 기저에 갤러킨 방법으로 사영해, 결정론적 미지수 에 대한 연립 방정식을 유도한다. 정확하고 수렴이 빠르지만 솔버 코드를 뜯어고쳐야 한다. 나비에-스토크스 방정식처럼 비선형 항이 있으면 삼중곱 텐서가 등장해 계가 급격히 커진다. 상용 솔버를 쓰는 실무에서는 사실상 선택지가 아니다.
4.2. 비침입형 — 사영과 회귀[편집]
솔버를 블랙박스로 두고 표본점에서 몇 번 돌린 뒤 계수를 맞춘다. 이쪽이 압도적 주류다.
- 의사 스펙트럴 사영: 를 수치적분으로 계산한다. 가우스 구적의 텐서곱은 가 커지면 즉사하므로 스무략 희소격자를 쓴다.
- 회귀(최소제곱): 라틴 하이퍼큐브 표본추출이나 소볼 수열로 점을 뿌리고 개 계수를 최소자승법으로 푼다. 경험칙으로 표본 수는 . 희소 PCE와 결합하면 이보다 훨씬 적게도 된다.
5. 계수에서 바로 나오는 통계량[편집]
절단 전개의 평균과 분산은 직교성 덕분에 계산이 필요 없다.
더 중요한 것은 소볼 지수가 계수의 재분류만으로 해석적으로 떨어진다는 사실이다. 변수 부분집합 에만 의존하는 다중지표들의 계수 제곱합을 전체 분산으로 나누면 그것이 곧 다. 전역 민감도를 얻자고 몬테카를로 방법으로 수만 번 더 돌릴 필요가 없다 — 이것이 PCE의 킬러 기능이다.2 신뢰성 해석에서 파괴확률을 뽑을 때도 PCE를 대리 모델로 세운 뒤 그 위에서 값싸게 표본추출하는 방식이 흔하다.
6. 수렴성 — 언제 빠르고 언제 느린가[편집]
카메론–마틴 정리(1947)가 이론적 바닥을 깔아 준다. 가 유한 분산을 갖는(즉 에 속하는) 확률변수이기만 하면 에르미트 카오스 전개가 수렴한다는 내용이다. 수렴은 공짜지만 속도는 아니다가 요점이다.
- 지수 수렴: 가 에 대해 해석적(analytic)이면 절단 차수 에 대해 오차가 지수적으로 줄어든다. 이것이 PCE를 쓰는 이유다. 몬테카를로 방법의 와는 비교가 안 된다.
- 대수 수렴: 가 유한 번만 미분 가능하면 그 매끄러움 차수에 묶인 대수적 수렴으로 떨어진다.
- 수렴하지만 쓸모없음: 불연속이 있으면 여전히 수렴은 하는데, 유용한 정확도에 도달하는 차수가 감당 불가 수준이 된다.
또 하나 중요한 것은 기저를 잘못 고르면 수렴이 느려진다는 점이다. 균등분포 입력에 에르미트 기저를 쓰면 (직교성이 깨져도 전개 자체는 여전히 수렴하지만) 필요한 차수가 크게 올라간다. 아스키 스킴을 지키라는 말은 미학이 아니라 비용 이야기다.3
검증은 재대입 오차가 아니라 교차검증으로 해야 한다. 회귀로 계수를 맞췄으므로 학습점에서의 오차는 당연히 작다. 표본을 남겨 두거나 leave-one-out 오차(선형 모형이라 해석적으로 값싸게 계산된다)를 봐야 과적합을 잡는다.
7. 약한 곳[편집]
- 불연속에 약하다. 다항식 기저로 충격파나 분기점 근처의 계단 응답을 표현하려면 기브스 현상이 나온다. 확률공간을 쪼개 조각별로 전개하는 다중요소 PCE가 대응책이다.
- 장시간 적분에서 정확도가 무너진다. 확률변수 위상차가 시간이 갈수록 벌어져, 고정 기저로는 따라갈 수 없게 된다. 시간의존 기저를 계속 갱신하는 방법들이 나와 있지만 비용이 다시 오른다.4
- 입력이 정말 고차원(수백 개 이상)이면 그냥 포기하는 편이 낫다. 그 영역은 가우시안 프로세스나 신경망 대리 모델의 몫이다.
8. 관련 문서[편집]
- 불확실성 정량화 · 민감도 해석 · 소볼 지수
- 직교다항식 · 갤러킨 방법 · 스펙트럴 방법 · 수치적분
- 대리 모델 · 반응표면법 · 가우시안 프로세스
- 라틴 하이퍼큐브 표본추출 · 소볼 수열 · 로젠블랫 변환 · 신뢰성 해석
9. Footnotes[편집]
-
“카오스”라는 이름 때문에 카오스 이론과 헷갈리는 사람이 매년 나오는데, 둘은 아무 관계가 없다. 위너가 쓴 “chaos”는 1930년대식 용법으로 그냥 “무작위성”에 가깝다. 이름 하나 잘못 붙은 대가를 90년째 치르는 중. ↩
-
무료라는 말이 과장이 아니다. 소볼 지수를 표본추출로 구하면 입력 차원 에 대해 모형 실행 회가 필요한데, PCE는 계수를 이미 갖고 있으므로 덧셈 몇 줄이면 끝난다. 물론 그 계수를 얻느라 이미 돈을 냈다는 점은 잊지 말자. ↩
-
그럼에도 “일단 다 에르미트로 돌린다”는 코드가 세상에 꽤 많다. 입력 변수를 표준정규로 변환해 놓고 시작하면 그게 아스키 스킴을 지키는 것과 같아지기 때문에, 결과적으로 틀리지 않는 경우도 많다. 다만 변환의 비선형성이 차수 요구를 올린다는 대가는 그대로 남는다. ↩
-
실무에서 이 함정에 빠지는 전형적 사례가 진동 문제다. 고유진동수에 불확실성을 넣고 응답을 PCE로 전개하면 초반 몇 주기는 완벽한데, 시간이 지날수록 표본 궤적들의 위상이 어긋나 응답이 통째로 뭉개진다. 오래 돌렸더니 결과가 이상해졌다면 차수를 올리기 전에 이걸 먼저 의심하는 게 빠르다. ↩