1. 개요[편집]
| 인과 추론 Causal Inference | |
|---|---|
| 두 언어 | 잠재결과(루빈) · 구조적 인과모형(펄) |
| 목표량 | ATE $E[Y(1)-Y(0)]$ · ATT · LATE |
| 근본 문제 | 한 개체에서 두 결과를 동시에 볼 수 없다 (Holland, 1986) |
| 핵심 가정 | 교환가능성 · 양의 확률 · SUTVA |
| 식별 도구 | 백도어·프론트도어 기준 · do-계산법 |
| 준실험 설계 | 도구변수 · 이중차분 · 회귀 불연속 |
| 검정 불가 | 식별 가정은 데이터로 검정되지 않는다 |
아이스크림 판매량과 익사 사고는 강하게 상관한다. 아이스크림을 금지하면 익사가 줄까? 안 줄어든다. 여름이 줄어야 준다.
인과 추론은 관측된 상관관계로부터 ” 를 바꾸면 가 얼마나 바뀌는가”라는 개입(intervention)에 대한 질문의 답을 이끌어내기 위한, 가정과 그 가정 아래에서의 식별(identification)을 다루는 방법론이다. 핵심은 인과는 데이터에서 나오지 않는다는 것이다 — 데이터는 관측 분포 밖에 주지 않고, 인과량은 그보다 상위의 대상이다. 그 간극을 메우는 것은 언제나 데이터 바깥에서 들여온 가정이며, 인과 추론이라는 학문은 “어떤 가정을 얼마나 얹으면 무엇을 계산할 수 있는가”를 정확히 따지는 작업이다.
펄(Judea Pearl)의 표현을 빌리면 질문에는 세 층의 사다리가 있다. 관찰(“이런 사람들은 어떻던가”, ), 개입(“이렇게 만들면 어떻게 되나”, ), 반사실(“그때 다르게 했더라면 어땠을까”). 통계학의 표준 도구 대부분은 첫 번째 층에서 살고, 위층의 질문에는 원리적으로 답하지 못한다. 층을 올라가려면 사다리, 즉 인과 모형이 필요하다.1
2. 심슨의 역설 — 구체적인 숫자[편집]
교과서 사례는 1986년에 보고된 신장결석 치료 비교다. 치료 A는 개복 수술, 치료 B는 경피적 신장쇄석술이고, 결석 크기로 층을 나누면 이런 숫자가 나온다.
| 구분 | 치료 A 성공률 | 치료 B 성공률 |
|---|---|---|
| 작은 결석 | 81/87 = 93% | 234/270 = 87% |
| 큰 결석 | 192/263 = 73% | 55/80 = 69% |
| 전체 | 273/350 = 78% | 289/350 = 83% |
읽으면 바로 이상하다. A가 작은 결석에서도 이기고 큰 결석에서도 이기는데, 전체로 합치면 진다. 산수 오류가 아니라 실제로 일어나는 일이고, 이런 뒤집힘을 심슨의 역설이라 부른다.
원인은 표본이 만들어진 방식에 있다. 의사들은 심한 환자(큰 결석)에게 A를, 가벼운 환자에게 B를 몰아줬다. A의 표본 263/350이 큰 결석인 반면 B는 80/350뿐이다. 큰 결석은 치료와 무관하게 성공률이 낮으니, A는 어려운 문제만 골라 푼 셈이고 전체 평균이 끌어내려진다. 결석 크기가 치료 선택에도, 결과에도 화살표를 쏘는 교란 변수(confounder)다.
여기서 중요한 것은 다음 질문이다 — 층별 숫자와 전체 숫자 중 무엇을 믿어야 하나? 통계만으로는 답이 없다. 답은 제3변수가 인과 구조에서 어디에 놓이는가에 달렸다.
- 결석 크기처럼 치료 이전에 결정되고 치료와 결과 양쪽에 영향을 주는 변수라면 층별로 봐야 한다. 전체 숫자는 교란된 값이다.
- 반대로 제3변수가 치료의 결과로 생긴 중간 변수(매개변수)라면 층을 나누는 순간 인과효과의 일부를 잘라내게 되어 층별 숫자가 틀린다. 혈압약이 뇌졸중을 줄이는 효과를 보면서 “복용 후 혈압”으로 층을 나누면 약의 효과가 사라져 보인다.
같은 숫자, 같은 표, 정반대의 결론. 어느 쪽인지는 데이터가 말해 주지 않는다. 이것이 앞 절의 “인과는 데이터에서 나오지 않는다”의 가장 짧은 증명이다.2
3. 루빈의 잠재결과[편집]
첫 번째 언어는 잠재결과(potential outcomes) 틀이다. 개체 와 이진 처치 에 대해, 처치를 받았을 때의 결과 과 받지 않았을 때의 결과 를 둘 다 존재하는 값으로 놓는다. 개체 수준 인과효과는 이고, 관심 있는 평균 처치효과는
이다. 문제는 실제로 관측되는 것이 , 즉 둘 중 하나뿐이라는 것이다. 나머지 하나는 영원히 결측이다. 홀런드(1986)가 인과 추론의 근본 문제라고 이름 붙인 지점이고, 그래서 인과 추론은 본질적으로 결측 데이터 문제로 다시 쓸 수 있다.
이 결측을 메우려면 가정이 필요하다. 표준 세트는 셋이다.
- 교환가능성(조건부 무시가능성) — . 공변량 를 같게 맞춰 놓으면 처치 배정이 잠재결과와 무관하다는 것. 무작위 배정 실험에서는 설계가 이것을 보장하고, 관측 데이터에서는 믿는 수밖에 없다.
- 양의 확률(positivity/overlap) — . 어떤 값에서 전원이 처치를 받았다면 그 구간의 대조군이 아예 없으므로 비교할 것이 없다. 외삽으로 메우는 순간 모형이 답을 지어낸다.
- SUTVA — (i) 한 개체의 처치가 다른 개체의 결과에 영향을 주지 않고(간섭 없음), (ii) 처치에 숨은 여러 버전이 없다. 백신·교통·SNS처럼 개체가 서로 영향을 주는 문제에서 (i)은 대놓고 거짓이며, 그래서 간섭을 명시적으로 모형화하는 별도 분야가 있다.
가정이 서면 추정 도구가 붙는다. 로젠바움과 루빈(1983)의 성향점수 가 출발점이고, 이것이 균형점수라는 정리 — 전체를 맞추는 대신 스칼라 하나만 맞춰도 된다 — 덕에 고차원 공변량을 한 축으로 압축할 수 있다. 여기서 매칭(성향점수가 비슷한 짝을 붙임), 층화, 역확률 가중(IPW)이 갈라져 나온다. IPW 추정량은
로, 처치받을 확률이 낮았는데 받은 개체에 큰 가중을 줘 “가상의 무작위 실험”을 복원하는 방식이다. 다만 가 0이나 1에 가까우면 가중치가 폭발해 분산이 터진다 — 양의 확률 가정이 실무에서 무너지는 모습이 바로 이것이다. 결과모형과 성향점수 모형 둘 중 하나만 맞아도 일치추정이 되는 이중 로버스트(AIPW) 추정량이 표준 처방이고, 두 모형을 랜덤 포레스트 같은 기계학습으로 적합하되 교차검증식 표본분할로 편향을 제거하는 접근이 최근의 주류다.
4. 펄의 구조적 인과모형[편집]
두 번째 언어는 그래프다. 변수들을 노드로, 직접적 인과를 화살표로 놓은 비순환 유향 그래프(DAG)와, 각 노드를 부모들의 함수로 쓴 구조방정식 의 조합이 구조적 인과모형(SCM)이다. 여기서 개입은 문자 그대로 정의된다 — 는 로 들어오는 화살표를 전부 잘라내고 를 로 고정한 뒤 나머지를 그대로 돌리는 연산이다. 그래서
가 일반적으로 성립하며, 두 값이 같아지는 조건이 곧 식별 조건이다.
세 변수 구조는 딱 세 가지뿐이고, 이 셋만 알면 대부분의 혼란이 정리된다.
| 구조 | 모양 | 조건화하면 |
|---|---|---|
| 사슬 (매개) | 을 고정하면 효과가 막힌다 | |
| 갈래 (교란) | 를 고정하면 가짜 상관이 사라진다 | |
| 충돌체 | 를 고정하면 없던 상관이 생긴다 |
세 번째가 직관을 가장 크게 배신한다. 충돌체를 조건화하면 원래 독립이던 두 원인 사이에 상관이 만들어진다. 시동이 안 걸리는 원인이 배터리 방전과 연료 부족 두 가지이고 둘이 서로 무관하다고 하자. “시동이 안 걸린 차”만 모아 놓고 보면, 배터리가 멀쩡한 차는 거의 다 연료가 없다 — 두 원인이 강한 음의 상관을 보인다. 차 전체를 보면 없던 관계다.
실무에서 이것은 선택 편향과 불필요한 통제로 나타난다. 표본이 어떤 기준을 통과한 개체만으로 구성돼 있다면 그 기준이 충돌체일 수 있고, “혹시 모르니 공변량을 최대한 많이 넣자”는 습관은 충돌체나 매개변수를 통제해 멀쩡한 추정을 망가뜨린다. 통제 변수는 많을수록 좋은 게 아니다.3
식별의 주력 도구가 백도어 기준이다. 집합 가 (i) 의 후손을 포함하지 않고 (ii) 로 들어오는 화살표를 가진 모든 경로를 막으면, 로 조정해 개입 분포를 쓸 수 있다.
익숙한 “교란 변수를 통제한다”가 바로 이것이고, 잠재결과 틀의 조건부 교환가능성과 같은 내용을 그래프 언어로 쓴 것이다.
교란 변수를 관측하지 못했을 때를 위한 것이 프론트도어 기준이다. 인 매개변수 이 있고, 미관측 교란이 와 사이에만 있고 을 건드리지 않는다면
로 효과가 식별된다. 미관측 교란이 있는데도 인과효과가 계산된다는 점에서 놀라운 결과이며, 백도어 기준만 알던 사람에게는 반칙처럼 보인다. 이 두 기준을 포함하는 일반 규칙이 do-계산법의 세 규칙이고, 이것이 완비적이라는 것 — do-계산법으로 못 줄이는 인과량은 그 그래프 아래에서 어떤 방법으로도 식별 불가능하다는 것 — 이 2006년에 증명됐다. 덕분에 “식별 가능한가”가 알고리즘으로 판정되는 문제가 됐다.
두 언어는 경쟁 관계가 아니라 같은 대상의 두 표기법이다. 그래프는 가정을 그림으로 그려 검토하게 만드는 데 강하고, 잠재결과는 추정량과 그 분산을 다루는 데 강하다. 실무에서는 DAG로 무엇을 통제할지 정하고 잠재결과 틀로 추정하는 조합이 흔하다.4
5. 준실험 설계[편집]
무작위 배정이 불가능한데 백도어도 안 서는 상황을 위한 설계들이 있다. 전부 “자연이 대신 굴려 준 주사위” 를 찾아내는 발상이다.
- 도구변수(IV) — 처치에는 영향을 주지만 결과에는 처치를 통해서만 영향을 주는 변수 를 찾는다. 세 조건(관련성, 배제 제약, 독립성)이 서면 의 무작위성이 처치의 일부에 이식된다. 2단계 최소제곱이 표준 추정법이고, 배제 제약이 원리적으로 검정 불가능하다는 것이 아킬레스건이다. 또 추정되는 것이 ATE가 아니라 때문에 처치 상태가 바뀐 사람들(“순응자”)에 한정된 국소 효과(LATE) 다.
- 이중차분(DiD) — 처치군과 대조군의 처치 전후 변화량을 다시 뺀다. 시간에 변하지 않는 집단별 차이는 차분에서 소거된다. 전제인 평행 추세(처치가 없었다면 두 군의 추세가 같았을 것)는 역시 검정할 수 없고, 처치 이전 구간의 추세로 정황 증거를 대는 것이 최선이다.
- 회귀 불연속(RDD) — 연속 변수가 문턱을 넘느냐로 처치가 결정될 때(점수 60점 이상 장학금, 인구 5만 이상 지원금), 문턱 바로 양옆은 거의 무작위로 갈린 셈이다. 국소적으로 실험을 복원하는 대신 결과도 문턱 근방에서만 유효하고, 개체가 문턱을 인위적으로 넘나들 수 있으면(점수 조작) 설계가 무너진다.
어느 것도 공짜가 아니다. 공통 구조는 검정 불가능한 가정 하나를 검정 불가능한 다른 가정으로 바꾸는 것이고, 선택 기준은 “어느 쪽이 이 문제에서 덜 터무니없는가”다.
6. 시뮬레이션 — 개입이 공짜인 세계[편집]
여기서 심위키 맥락의 이야기가 시작된다. 시뮬레이터 안에서는 가 문자 그대로 공짜다. 파라미터 하나를 바꾸고 다시 돌리면 된다. 관측 연구자가 평생 싸우는 교란·선택 편향·미관측 변수가 몬테카를로 방법 루프 안에서는 존재하지 않는다. 입력을 우리가 뿌리고, 모든 중간 변수를 볼 수 있고, 같은 난수 시드로 반사실까지 돌려볼 수 있다 — 사다리의 세 번째 층이 그냥 열려 있다.
그래서 시뮬레이션은 인과 방법론의 시험장 역할을 한다. 참 인과구조를 아는 데이터 생성 과정을 만들어 놓고, 거기서 관측 데이터만 잘라내 추정량에 물린 뒤 정답과 비교하는 것이 인과 발견 알고리즘과 추정량 벤치마크의 표준 절차다. 참값을 아는 합성 문제로 방법을 검증한다는 점에서 검증 및 확인의 “제조해(manufactured solution)“와 완전히 같은 발상이다.
반대 방향도 있다. 시뮬레이터 자체의 인과구조가 현실과 맞는지는 시뮬레이터가 답해 주지 않는다. 모형 안에서는 가 공짜지만, 그 모형이 현실의 화살표를 맞게 그려 놨는가는 여전히 검증 및 확인과 실험 데이터의 몫이다. 시뮬레이션 결과를 근거로 “이 변수를 바꾸면 현실에서 이렇게 된다”고 말할 때 실제로 하고 있는 주장은 모형의 DAG가 현실의 DAG와 같다는 것이며, 이건 데이터로 검정되지 않는 가정이다. 익숙한 이야기다.
민감도 해석과의 관계도 명확히 해 두는 게 좋다.
- 전역 민감도 분석, 예컨대 소볼 지수의 분산 분해는 이미 인과적인 양이다. 입력을 직접 흔들어 출력 분산의 기여를 나누는 것이므로 연산 그 자체다. 회귀계수로 “어느 입력이 중요한가”를 읽는 관측적 접근과 달리, 입력을 우리가 독립으로 뿌렸다는 사실이 교란을 원천 차단한다.
- 그런데 입력끼리 상관이 있으면 이 성질이 깨진다. 상관 있는 입력에 소볼 지수를 그대로 쓰면 분해가 겹치고 해석이 흐려지는데, 이것은 통계적 기교의 문제가 아니라 ” 만 흔든다”는 것이 물리적으로 무슨 뜻인가라는 인과 질문이다. 두 입력이 같은 상위 원인에서 나온 것이라면 하나만 흔드는 개입은 현실에 대응물이 없을 수도 있다.
- 한 번에 하나씩 흔드는 OAT(one-at-a-time) 방식은 를 반복하는 설계이며, 상호작용을 못 잡는 그 유명한 한계는 곧 “주효과만 보는 개입 설계의 한계”다. 실험계획법이 요인 설계를 권하는 이유와 같다.
- 대리 모델을 관측 데이터(운전 이력, 현장 계측)로 적합해 놓고 개입 효과를 예측하는 순간, 그것은 인과 모형이 아니라 상관 모형이다. 예측 성능이 아무리 좋아도 개입 질문에는 답하지 못한다 — 과적합과는 다른 종류의 실패이며 검증 데이터 성능으로는 잡히지 않는다.
시계열 쪽에서 자주 인용되는 그레인저 인과성은 이름과 달리 “과거 가 의 예측을 개선하는가” 라는 예측적 개념이고, 공통 원인이 시차를 두고 작용하면 얼마든지 가짜 양성을 낸다. 이름에 속지 않는 것이 좋다.
7. 가정은 검정되지 않는다 — 민감도 분석[편집]
인과 추론의 결론은 “효과가 얼마다”가 아니라 “이 가정들이 맞다면 효과가 얼마다” 이다. 그리고 그 가정 중 핵심(미관측 교란 없음, 배제 제약, 평행 추세)은 데이터로 검정할 수 없다. 그래서 정직한 인과 분석은 반드시 가정이 얼마나 틀려야 결론이 뒤집히는지를 함께 보고한다.
- 로젠바움 경계 — 매칭된 짝 사이에서 처치 확률이 미관측 요인 때문에 최대 배까지 다를 수 있다고 놓고, 를 키우며 결론의 유의성이 언제 사라지는지 본다.
- E-값 — 관측된 연관을 전부 설명해 없애려면 미관측 교란 변수가 처치·결과 양쪽과 최소 얼마나 강하게 연관되어야 하는지를 하나의 숫자로 낸다. E-값이 1.1이면 사소한 교란에도 무너지는 결론이고, 9면 상당히 튼튼하다.
- 음성 대조 — 효과가 있을 리 없는 결과변수나 노출을 같은 파이프라인에 태워 본다. 거기서도 “효과”가 나오면 파이프라인에 교란이 남아 있다는 뜻이다.
발상 자체는 불확실성 정량화와 정확히 같다. 답 하나를 내놓는 대신 답이 입력 가정에 얼마나 민감한지를 함께 내놓는 것. 시뮬레이션 쪽 사람이 인과 추론 문헌을 읽을 때 가장 빨리 이해되는 부분이기도 하다.
8. 관련 문서[편집]
- 민감도 해석 · 소볼 지수 · 불확실성 정량화 · 실험계획법
- 검증 및 확인 · 대리 모델 · 몬테카를로 방법 · 역문제
- 베이지안 네트워크 · 인과 발견 · 그레인저 인과성 · 마르코프 확률장
- 로지스틱 회귀 · 랜덤 포레스트 · 교차검증 · 과적합
- 부트스트랩 · 통계 · 충분통계량 · 확률 캘리브레이션
- 강화 학습 · 다중 슬롯머신 · 최적 제어
9. Footnotes[편집]
-
사다리 비유와 “데이터는 답을 모른다”는 주장은 Pearl & Mackenzie, The Book of Why (2018)의 골격이다. 대중서치고 싸움을 많이 걸어 놓은 책이라, 통계학계 쪽에서 “그 얘기는 우리도 예전부터 했다”는 반응이 꽤 나왔다. 다만 그 반응이 나온 시점이 책 출간 이후라는 점이 이 논쟁의 묘미다. ↩
-
더 유명한 사례는 1973년 UC 버클리 대학원 입시다. 전체로 보면 남성 합격률이 여성보다 뚜렷이 높은데, 학과별로 쪼개면 대부분의 학과에서 여성 합격률이 같거나 높았다. 여성 지원자가 경쟁률 높은 학과에 몰린 것이 이유였다. 이 분석을 담은 1975년 Science 논문은 “역설을 설명한 사례”보다 “차별을 데이터로 따질 때 층을 어떻게 나눌 것인가”라는 더 무거운 질문을 남겼다. ↩
-
그래서 회귀식에 변수를 잔뜩 넣고 “통제했습니다”라고 쓰는 관행은 위험하다. 통제해야 할 것을 빼먹는 것만 죄가 아니라, 통제하면 안 되는 것을 넣는 것도 똑같이 죄다. 전자는 교란이라 부르고 후자는 과잉통제(overcontrol)라 부르는데, 후자는 가 올라가기 때문에 저지르고도 기분이 좋다는 게 문제다. ↩
-
루빈 쪽과 펄 쪽의 감정 섞인 공방은 이 분야의 오랜 볼거리다. “DAG는 필요 없다” 대 “잠재결과는 가정을 숨긴다”가 요지인데, 정작 대학원 강의에서는 두 장을 나란히 가르치고 시험에는 둘 다 나온다. 학생만 두 배로 고생한다. ↩