반응표면법

통계 최적설계 시뮬레이션 마지막 수정: 2026-07-18 04:15:22

1. 개요[편집]

반응표면법(Response Surface Methodology, RSM)은 여러 입력 변수와 응답 사이의 관계를 저차 다항식으로 근사한 뒤, 그 근사면 위에서 최적 조건을 찾아가는 통계적 최적화 방법론이다. 1951년 박스(Box)와 윌슨(Wilson)이 화학 공정 수율을 끌어올리려고 정립했고, 그 뒤로 제조·재료·공정 최적화의 표준 도구가 됐다. 이름 그대로 응답을 입력 공간 위의 **곡면(surface)**으로 보고, 그 언덕의 정상을 찾는 등산 문제로 바꾸는 게 핵심이다.

RSM은 실험계획법(DOE)과 대리 모델 사이 어딘가에 걸쳐 있다. 실험을 어떻게 배치할지는 DOE에서 빌려오고, 만들어진 다항식 근사는 대리 모델의 가장 고전적인 형태다. 그래서 세 문서를 헷갈리기 쉬운데, 구분하자면 이렇다. DOE는 실험점 배치 전략, RSM은 그 위에 다항식을 얹어 최적점까지 가는 전체 절차, 대리 모델은 다항식 말고 크리깅·신경망까지 포함하는 더 넓은 상위 개념이다.¹

2. 이차 모형[편집]

RSM의 주력 병기는 완전 이차 다항식이다. 응답 $y$ 를 입력 $x_i$ 들의 1차항, 순수 2차항, 교호작용항으로 전개한다.

y = \beta_0 + \sum_{i=1}^{k} \beta_i x_i + \sum_{i=1}^{k} \beta_{ii} x_i^2 + \sum_{i<j} \beta_{ij} x_i x_j + \varepsilon

1차항만으로는 경사만 표현하지만, 순수 2차항 $\beta_{ii} x_i^2$ 가 있어야 봉우리·골짜기·안장점 같은 곡률을 담을 수 있다. 최적점 근처에서는 응답이 대개 완만한 언덕 모양이므로 2차식이면 충분하다는 게 RSM의 전제다. 계수는 최소자승법으로 적합한다.

\hat{\boldsymbol{\beta}} = (\mathbf{X}^T \mathbf{X})^{-1} \mathbf{X}^T \mathbf{y}

적합이 끝나면 $\partial \hat{y} / \partial x_i = 0$ 을 푸는 **정상점(stationary point)**을 찾고, 헤시안의 부호로 그게 최대인지 최소인지 안장점인지 판별한다. 안장점이 나오면 능선 분석(ridge analysis)으로 제약 하에서의 최적을 따로 찾는다.

3. 실험 설계: CCD와 Box-Behnken[편집]

이차 모형을 적합하려면 각 인자가 최소 3개 수준을 가져야 한다( $x^2$ 항의 곡률을 추정해야 하니까). 이걸 효율적으로 배치하는 두 간판 설계가 있다.

중심합성설계(Central Composite Design, CCD) — RSM의 대표 설계. 세 부분으로 이뤄진다. ① 요인점( $2^k$ 또는 부분요인)으로 1차항과 교호작용을, ② 축점(axial/star point)으로 순수 2차항을, ③ 중심점 반복으로 순수 오차와 곡률 검정을 담당한다. 축점의 거리 $\alpha$ 를 조절해 회전가능성(rotatability)을 확보하면 중심에서 등거리인 모든 방향의 예측 분산이 같아진다.
Box-Behnken 설계(BBD) — 요인들의 중간 수준을 조합하되 극단 꼭짓점(모든 인자가 동시에 최댓값·최솟값)을 피한다. 꼭짓점 조건이 위험하거나(온도·압력 동시 최대) 아예 구현 불가능한 공정에서 유용하다. CCD보다 실험 수가 적은 경우가 많지만, 설계 영역 모서리는 못 본다.

두 설계 모두 3수준이면 곡률을 잡을 수 있어 완전 3수준 요인설계( $3^k$ )보다 훨씬 경제적이다. $3^k$ 는 인자 4개만 돼도 81번이라 현실성이 없다.

4. 최속상승법과 순차적 접근[편집]

RSM의 진짜 정신은 한 방에 최적을 맞히는 게 아니라 순차적으로 언덕을 올라가는 것이다.

처음엔 최적점이 어디 있는지 모르니 넓게 벌어진 현재 위치에서 1차 모형만 적합해 경사 방향을 잡는다. 그다음 **최속상승법(steepest ascent)**으로 그 방향을 따라 실험점을 옮겨가며 응답이 더는 안 오를 때까지 전진한다. 최적 근처에 다다르면 1차 모형의 적합 결여(lack of fit)가 커지는데, 이게 “이제 평지에 가까워졌으니 곡률을 봐야 한다”는 신호다. 그때 비로소 CCD 같은 2차 설계를 깔고 이차 모형으로 정밀하게 정상을 찾는다.

이 “1차로 방향 잡고 → 이동 → 2차로 마무리”의 흐름은 경사하강법 같은 수치 최적화의 실험판이라 봐도 된다. 차이라면 기울기를 미분이 아니라 실험으로 추정한다는 것뿐이다.²

5. 다른 방법과의 경계[편집]

RSM은 강력하지만 만능은 아니다. 언제 다른 도구로 갈아타야 하는지 아는 게 중요하다.

곡률이 심하면 2차 다항식이 못 따라간다. 응답이 굽이치거나 다봉성이면 대리 모델의 크리깅으로 넘어가는 게 정석이다. 크리깅은 예측 분산까지 주므로 베이지안 최적화와 자연스럽게 이어진다.
입력이 고차원이면 이차항 개수가 $O(k^2)$ 로 붇는다. 인자 20개면 교호작용항만 190개라 필요 실험 수가 감당이 안 된다. 먼저 민감도 해석이나 스크리닝 DOE로 인자를 3~5개로 쳐내고 RSM에 들어가는 게 국룰이다.
결정론적 시뮬레이션이면 반복해도 같은 값이 나와 순수 오차 개념이 무의미해진다. 이 경우 공간채움 설계 + 크리깅이 다항식 RSM보다 자연스럽다. RSM의 통계 검정 틀은 원래 노이즈 있는 물리 실험을 전제로 짜였기 때문이다.

6. 현업에서의 현실[편집]

RSM 결과에서 가장 먼저 봐야 할 건 결정계수 $R^2$ 가 아니라 **적합 결여 검정(lack-of-fit test)**이다. $R^2$ 가 높아도 적합 결여가 유의하면 2차식으로는 부족하다는 뜻이라 모형을 믿으면 안 된다.
코딩된 변수(coded variable)로 계수를 보는 습관이 중요하다. 실제 단위 그대로면 온도 계수와 촉매 농도 계수의 크기를 비교할 수 없다. $-1$ ~ $+1$ 로 정규화해야 어느 인자가 센지 눈에 들어온다.
최적점이 실험 영역 경계에 붙어 나오면 의심해야 한다. 진짜 최적이 영역 밖에 있는데 잘라먹었을 가능성이 크다. 이때는 영역을 옮겨 한 번 더 돈다.
다구치 방법과 RSM은 목적이 다르다. 다구치는 잡음에 둔감한 강건 설계를, RSM은 응답면 위의 최적점 자체를 노린다. 둘을 섞어 강건 RSM으로 쓰기도 한다.³

7. 관련 문서[편집]

그래서 “response surface”라는 말이 문헌마다 다른 층위로 쓰인다. 어떤 논문은 다항식 근사면 자체를, 어떤 논문은 크리깅까지 포함한 모든 대리면을 그렇게 부른다. 대화할 때 상대가 어느 뜻으로 쓰는지 먼저 확인하는 게 정신 건강에 좋다. ↩
그래서 RSM을 “실험으로 하는 경사하강법”이라 부르기도 한다. 다만 실험 한 번이 비싸므로 스텝을 함부로 못 밟고, 방향 추정에 여러 점을 써야 하는 게 CPU 경사하강법과 다른 애환이다. ↩
RSM은 통계 프로그램(Minitab, Design-Expert, JMP)에 다 들어 있어 버튼 몇 번이면 CCD가 튀어나온다. 편해진 만큼 적합 결여 검정을 안 보고 $R^2$ 만 자랑하는 사고가 흔하다. 도구가 좋아질수록 원리를 아는 사람과 모르는 사람의 격차는 오히려 벌어진다. ↩