나이퀴스트 안정성 판별법

수치해석 전자공학 마지막 수정: 2026-07-31 06:33:51

1. 개요[편집]

나이퀴스트 안정성 판별법 Nyquist Stability Criterion
제안	Harry Nyquist, 1932 (Bell Labs)
근거	복소해석의 편각 원리
판정식	$Z = N + P$
안정 조건	$Z = 0$ (폐루프 우반평면 극점 없음)
필요 정보	개루프 주파수 응답 + 개루프 RHP 극점 수
연관 지표	이득 여유, 위상 여유, 감도 최대값 $M_s$

폐루프를 풀지 말고, 개루프 궤적이 $-1$ 을 몇 바퀴 도는지만 세어라.

나이퀴스트 안정성 판별법은 되먹임 계의 개루프 전달함수 $L(s)$ 의 주파수 응답 궤적이 복소평면의 $-1$ 점을 감는 횟수만으로 폐루프의 안정성을 판정하는 그래프적 방법이다. 1932년 해리 나이퀴스트가 벨 연구소의 장거리 중계 증폭기 발진 문제를 다루며 발표했다.

폐루프 특성방정식은 $1 + L(s) = 0$ 이다. 이 방정식의 근을 직접 구하려면 계의 차수만큼 다항식을 풀어야 하는데, 나이퀴스트의 요점은 근을 구하지 않고도 우반평면에 몇 개나 있는지 셀 수 있다는 것이다. 실험으로 측정한 주파수 응답 데이터만 있으면 모델 없이도 판정이 된다는 점이 이 방법이 지금까지 살아남은 이유다.¹

이름이 비슷해 혼동되는 폰 노이만 안정성 해석과는 전혀 다른 물건이다. 그쪽은 편미분방정식 이산화에서 푸리에 모드의 증폭인자를 보는 것이고, 이쪽은 되먹임 루프의 극점 위치를 보는 것이다. 공통점은 “안정성”이라는 단어뿐이다.

2. 편각 원리에서 Z = N + P로[편집]

복소해석의 편각 원리가 전부다. 유리함수 $F(s)$ 와 그 영점·극점을 지나지 않는 닫힌 경로 $\Gamma$ 에 대해, $s$ 가 $\Gamma$ 를 한 바퀴 돌 때 상 $F(\Gamma)$ 가 원점을 감는 횟수는 $\Gamma$ 내부의 영점 수에서 극점 수를 뺀 값과 같다.

여기에 $F(s) = 1 + L(s)$ 를 넣는다. $F$ 의 영점은 곧 폐루프 극점이고, $F$ 의 극점은 $L$ 의 극점, 곧 개루프 극점이다. 그리고 $F$ 가 원점을 감는 것은 $L$ 이 $-1$ 을 감는 것과 같다. 우반평면 전체를 감싸는 경로를 시계방향으로 돌면 다음이 나온다.

Z = N + P

$Z$ 는 우반평면 폐루프 극점 수(0이어야 안정), $P$ 는 우반평면 개루프 극점 수, $N$ 은 나이퀴스트 선도가 $-1$ 점을 시계방향으로 감는 횟수(반시계는 음수)다. 즉 안정 조건은 $N = -P$ — 개루프가 이미 불안정하다면 궤적이 $-1$ 을 그 개수만큼 반시계로 감아 줘야 한다. 개루프가 안정( $P=0$ )인 흔한 경우라면 조건은 “감지 않을 것” 하나로 줄어든다.

3. 경로 그리기와 함정[편집]

나이퀴스트 경로는 허수축을 $-j\infty$ 에서 $+j\infty$ 까지 따라 올라간 뒤 무한대 반지름의 반원으로 우반평면을 덮어 닫는다. 실계수 계라면 $L(-j\omega) = \overline{L(j\omega)}$ 이므로 실제로 계산할 것은 $\omega \ge 0$ 절반뿐이고 나머지는 실축 대칭으로 얻는다. 분모 차수가 분자보다 높으면 무한 반원은 원점 한 점으로 뭉개져 아무 기여도 하지 않는다.

문제는 허수축 위에 극점이 있을 때다. 적분기 $1/s$ 가 대표적인데, 편각 원리는 경로 위의 극점을 허용하지 않으므로 원점을 반지름 $\varepsilon$ 의 작은 반원으로 우회한다. 이때 상은 반지름 $1/\varepsilon$ 의 거대한 반원이 되어 시계방향으로 쓸고 지나간다. 이 무한대 호를 빼먹고 감김 수를 세는 것이 초심자가 가장 자주 저지르는 실수이며, 적분기 하나마다 $180^\circ$ 씩 호가 늘어난다.

4. 손으로 한 번 세어 보기[편집]

교과서 예제 하나를 끝까지 밀어 보자. 적분기 하나가 있는 3차 계

L(s) = \frac{K}{s(s+1)(s+2)}

를 보자. 개루프 극점은 $0, -1, -2$ 이고 우반평면에는 없으니 $P = 0$ 이다. 따라서 안정 조건은 “ $-1$ 을 감지 않을 것”이다. $s = j\omega$ 를 넣으면 분모가 $-3\omega^2 + j\,\omega(2-\omega^2)$ 이므로, 궤적이 음의 실축을 지나는 것은 허수부가 0이 되는 $\omega = \sqrt{2}$ 일 때다. 그 점에서 분모는 $-6$ 이므로 궤적은 실축을 $-K/6$ 에서 가로지른다.

결론이 곧바로 나온다. $K < 6$ 이면 교차점이 $-1$ 의 오른쪽이라 감김이 없어 안정, $K > 6$ 이면 $-1$ 을 시계방향으로 두 번 감아 $Z = 2$ , 즉 폐루프 극점 두 개가 우반평면으로 넘어간다. $K = 6$ 이 임계점이고, $K = 1$ 일 때 이득 여유는 정확히 6(약 15.6 dB), 위상 교차 주파수는 $\sqrt{2}$ rad/s다. 라우스-후르비츠로 특성다항식 $s^3 + 3s^2 + 2s + K$ 를 따져도 같은 답이 나오지만, 여기서는 다항식 근을 한 번도 건드리지 않았다.

5. 이득 여유·위상 여유, 그리고 그 한계[편집]

실무에서 쓰는 것은 감김 수 자체보다 궤적이 $-1$ 에서 얼마나 떨어져 있느냐다.

이득 여유 — 위상이 $-180^\circ$ 가 되는 주파수에서 $1/|L(j\omega_{pc})|$ . 이득을 몇 배까지 올려도 되는가.
위상 여유 — $|L(j\omega_{gc})| = 1$ 인 주파수에서 $180^\circ + \angle L(j\omega_{gc})$ . 위상을 몇 도까지 잃어도 되는가.

통상 요구치는 이득 여유 6 dB 이상, 위상 여유 $30^\circ$ ~ $60^\circ$ 다. 그런데 이 둘에는 구조적 결함이 있다. 각각 한 방향으로만 잰 거리라는 것이다. 순수 이득 변화 축과 순수 위상 변화 축을 따로 재기 때문에, 궤적이 $-1$ 의 대각선 방향으로 바짝 붙어 지나가면 두 여유가 모두 넉넉해 보이는데도 실제로는 아주 작은 섭동에 불안정해진다.

정직한 척도는 $-1$ 까지의 최단 거리다. 감도함수 $S = 1/(1+L)$ 의 최대값

M_s = \max_\omega \left| \frac{1}{1 + L(j\omega)} \right| = \frac{1}{\min_\omega |1 + L(j\omega)|}

에 대해 $1/M_s$ 가 바로 그 거리이며, 이 하나의 숫자가 이득 여유 $\ge M_s/(M_s-1)$ , 위상 여유 $\ge 2\arcsin(1/2M_s)$ 를 동시에 보장한다. 실무 목표는 $M_s \le 2$ 정도. 이 관점을 체계로 밀고 나간 것이 강건 제어이며, 다변수로 확장하면 구조적 특이값 $\mu$ 가 된다.

보데 선도로 여유를 읽는 것이 더 편하지만, 그것이 정당한 것은 최소위상이고 개루프가 안정일 때뿐이다. 우반평면 영점이나 개루프 불안정 극점이 있으면 크기 곡선이 위상을 결정하지 못하므로, 감김 수를 세는 나이퀴스트만이 옳은 답을 준다.

6. 시간지연, 이산시간, 그리고 시뮬레이션[편집]

시간지연 $e^{-sT}$ 는 크기가 정확히 1이고 위상만 $-\omega T$ 만큼 깎는다. 크기 곡선은 그대로인데 궤적이 원점을 중심으로 감기며 $-1$ 을 향해 밀려 들어가는 것이다. 남은 위상 여유를 지연으로 환산한 지연 여유 $T_{\max} = \phi_m / \omega_{gc}$ (위상 여유는 라디안)가 곧 허용 지연이며, 대역폭을 넓힐수록 $\omega_{gc}$ 가 커져 허용 지연이 반비례로 줄어든다.

이산시간에서는 경로가 우반평면 대신 단위원이다. $L(e^{j\theta})$ 를 $\theta \in [0, 2\pi)$ 에서 그리고, $P$ 는 단위원 밖의 개루프 극점 수로 바꾸면 판정식은 그대로다. 다변수계에서는 $L(s)$ 의 고유궤적(eigenloci)들이 $-1$ 을 감는 총 횟수를 세는 일반화 나이퀴스트 판별법을 쓴다.

시뮬레이션 쪽에서도 이 도구가 그대로 쓰인다. 파티션드 유체-구조 연성 결합은 유동 솔버와 구조 솔버가 서로의 출력을 입력으로 받는 되먹임 루프이고, 부가질량이 큰 문제에서 결합 반복이 발산하는 현상은 이 루프의 이득이 1을 넘는 것으로 읽힌다. 지연 항이 붙는 이유도 명확하다 — 교대식(staggered) 결합은 상대 솔버의 한 스텝 전 값을 쓰므로 $z^{-1}$ 이 곱해지고, 그만큼 위상 여유가 깎인다. 하드웨어 인 더 루프 시험은 더 직접적이다. 실물 장치와 실시간 모델이 통신 지연을 사이에 두고 닫힌 루프를 이루므로, 지연 여유를 넘기는 순간 시험대가 실제로 진동한다.²³

7. 관련 문서[편집]

같은 나이퀴스트가 같은 시기에 표본화 정리(나이퀴스트 주파수)도 남겼다. 신호처리 수업과 제어 수업에서 같은 이름이 전혀 다른 맥락으로 튀어나와 사람을 헷갈리게 하는데, 놀랍게도 동일인이 맞다. 벨 연구소 전성기의 생산성이란. ↩
부가질량 불안정은 유체 밀도와 구조 밀도의 비가 클수록(혈류-혈관, 물-얇은 판) 심해지고, 시간간격을 줄여도 사라지지 않는다는 점이 악명 높다. 시간간격을 줄이는 것이 지연을 줄이긴 하지만 결합 이득 자체는 건드리지 못하기 때문이다. 그래서 처방은 아이젠슈타트 완화나 준-뉴턴 가속, 아니면 아예 모놀리식 결합이다. ↩
“여유가 충분한데 왜 진동하죠”라는 질문의 절반은 지연을 모델에 안 넣어서, 나머지 절반은 $-1$ 에 대각선으로 붙는 궤적을 두 여유만 보고 판정해서 생긴다. 여유 두 개는 안전의 필요조건이지 충분조건이 아니다. ↩