나이퀴스트 안정성 판별법

수치해석 전자공학 마지막 수정: 2026-07-31 06:33:51

○ 공개 검수 대기 표시 기준 보기

1. 개요

나이퀴스트 안정성 판별법 Nyquist Stability Criterion
제안	Harry Nyquist, 1932 (Bell Labs)
근거	복소해석의 편각 원리
판정식	Z = N + P
안정 조건	Z = 0 (폐루프 우반평면 극점 없음)
필요 정보	개루프 주파수 응답 + 개루프 RHP 극점 수
연관 지표	이득 여유, 위상 여유, 감도 최대값 M_s

폐루프를 풀지 말고, 개루프 궤적이 $-1$ 을 몇 바퀴 도는지만 세어라.

나이퀴스트 안정성 판별법은 되먹임 계의 개루프 전달함수 $L(s)$ 의 주파수 응답 궤적이 복소평면의 $-1$ 점을 감는 횟수만으로 폐루프의 안정성을 판정하는 그래프적 방법이다. 1932년 해리 나이퀴스트가 벨 연구소의 장거리 중계 증폭기 발진 문제를 다루며 발표했다.

폐루프 특성방정식은 $1 + L(s) = 0$ 이다. 이 방정식의 근을 직접 구하려면 계의 차수만큼 다항식을 풀어야 하는데, 나이퀴스트의 요점은 근을 구하지 않고도 우반평면에 몇 개나 있는지 셀 수 있다는 것이다. 실험으로 측정한 주파수 응답 데이터만 있으면 모델 없이도 판정이 된다는 점이 이 방법이 지금까지 살아남은 이유다.¹

이름이 비슷해 혼동되는 폰 노이만 안정성 해석과는 전혀 다른 물건이다. 그쪽은 편미분방정식 이산화에서 푸리에 모드의 증폭인자를 보는 것이고, 이쪽은 되먹임 루프의 극점 위치를 보는 것이다. 공통점은 “안정성”이라는 단어뿐이다.

2. 편각 원리에서 Z = N + P로

복소해석의 편각 원리가 전부다. 유리함수 $F(s)$ 와 그 영점·극점을 지나지 않는 닫힌 경로 $\Gamma$ 에 대해, $s$ 가 $\Gamma$ 를 한 바퀴 돌 때 상 $F(\Gamma)$ 가 원점을 감는 횟수는 $\Gamma$ 내부의 영점 수에서 극점 수를 뺀 값과 같다.

여기에 $F(s) = 1 + L(s)$ 를 넣는다. $F$ 의 영점은 곧 폐루프 극점이고, $F$ 의 극점은 $L$ 의 극점, 곧 개루프 극점이다. 그리고 $F$ 가 원점을 감는 것은 $L$ 이 $-1$ 을 감는 것과 같다. 우반평면 전체를 감싸는 경로를 시계방향으로 돌면 다음이 나온다.

Z = N + P

$Z$ 는 우반평면 폐루프 극점 수(0이어야 안정), $P$ 는 우반평면 개루프 극점 수, $N$ 은 나이퀴스트 선도가 $-1$ 점을 시계방향으로 감는 횟수(반시계는 음수)다. 즉 안정 조건은 $N = -P$ — 개루프가 이미 불안정하다면 궤적이 $-1$ 을 그 개수만큼 반시계로 감아 줘야 한다. 개루프가 안정( $P=0$ )인 흔한 경우라면 조건은 “감지 않을 것” 하나로 줄어든다.

3. 경로 그리기와 함정

나이퀴스트 경로는 허수축을 $-j\infty$ 에서 $+j\infty$ 까지 따라 올라간 뒤 무한대 반지름의 반원으로 우반평면을 덮어 닫는다. 실계수 계라면 $L(-j\omega) = \overline{L(j\omega)}$ 이므로 실제로 계산할 것은 $\omega \ge 0$ 절반뿐이고 나머지는 실축 대칭으로 얻는다. 분모 차수가 분자보다 높으면 무한 반원은 원점 한 점으로 뭉개져 아무 기여도 하지 않는다.

문제는 허수축 위에 극점이 있을 때다. 적분기 $1/s$ 가 대표적인데, 편각 원리는 경로 위의 극점을 허용하지 않으므로 원점을 반지름 $\varepsilon$ 의 작은 반원으로 우회한다. 이때 상은 반지름 $1/\varepsilon$ 의 거대한 반원이 되어 시계방향으로 쓸고 지나간다. 이 무한대 호를 빼먹고 감김 수를 세는 것이 초심자가 가장 자주 저지르는 실수이며, 적분기 하나마다 $180^\circ$ 씩 호가 늘어난다.

4. 손으로 한 번 세어 보기

교과서 예제 하나를 끝까지 밀어 보자. 적분기 하나가 있는 3차 계

L(s) = \frac{K}{s(s+1)(s+2)}

를 보자. 개루프 극점은 $0, -1, -2$ 이고 우반평면에는 없으니 $P = 0$ 이다. 따라서 안정 조건은 “ $-1$ 을 감지 않을 것”이다. $s = j\omega$ 를 넣으면 분모가 $-3\omega^2 + j\,\omega(2-\omega^2)$ 이므로, 궤적이 음의 실축을 지나는 것은 허수부가 0이 되는 $\omega = \sqrt{2}$ 일 때다. 그 점에서 분모는 $-6$ 이므로 궤적은 실축을 $-K/6$ 에서 가로지른다.

결론이 곧바로 나온다. $K < 6$ 이면 교차점이 $-1$ 의 오른쪽이라 감김이 없어 안정, $K > 6$ 이면 $-1$ 을 시계방향으로 두 번 감아 $Z = 2$ , 즉 폐루프 극점 두 개가 우반평면으로 넘어간다. $K = 6$ 이 임계점이고, $K = 1$ 일 때 이득 여유는 정확히 6(약 15.6 dB), 위상 교차 주파수는 $\sqrt{2}$ rad/s다. 라우스-후르비츠로 특성다항식 $s^3 + 3s^2 + 2s + K$ 를 따져도 같은 답이 나오지만, 여기서는 다항식 근을 한 번도 건드리지 않았다.

5. 이득 여유·위상 여유, 그리고 그 한계

실무에서 쓰는 것은 감김 수 자체보다 궤적이 $-1$ 에서 얼마나 떨어져 있느냐다.

이득 여유 — 위상이 $-180^\circ$ 가 되는 주파수에서 $1/|L(j\omega_{pc})|$ . 이득을 몇 배까지 올려도 되는가.
위상 여유 — $|L(j\omega_{gc})| = 1$ 인 주파수에서 $180^\circ + \angle L(j\omega_{gc})$ . 위상을 몇 도까지 잃어도 되는가.

통상 요구치는 이득 여유 6 dB 이상, 위상 여유 $30^\circ$ ~ $60^\circ$ 다. 그런데 이 둘에는 구조적 결함이 있다. 각각 한 방향으로만 잰 거리라는 것이다. 순수 이득 변화 축과 순수 위상 변화 축을 따로 재기 때문에, 궤적이 $-1$ 의 대각선 방향으로 바짝 붙어 지나가면 두 여유가 모두 넉넉해 보이는데도 실제로는 아주 작은 섭동에 불안정해진다.

정직한 척도는 $-1$ 까지의 최단 거리다. 감도함수 $S = 1/(1+L)$ 의 최대값

M_s = \max_\omega \left| \frac{1}{1 + L(j\omega)} \right| = \frac{1}{\min_\omega |1 + L(j\omega)|}

에 대해 $1/M_s$ 가 바로 그 거리이며, 이 하나의 숫자가 이득 여유 $\ge M_s/(M_s-1)$ , 위상 여유 $\ge 2\arcsin(1/2M_s)$ 를 동시에 보장한다. 실무 목표는 $M_s \le 2$ 정도. 이 관점을 체계로 밀고 나간 것이 강건 제어이며, 다변수로 확장하면 구조적 특이값 $\mu$ 가 된다.

보데 선도로 여유를 읽는 것이 더 편하지만, 그것이 정당한 것은 최소위상이고 개루프가 안정일 때뿐이다. 우반평면 영점이나 개루프 불안정 극점이 있으면 크기 곡선이 위상을 결정하지 못하므로, 감김 수를 세는 나이퀴스트만이 옳은 답을 준다.

6. 시간지연, 이산시간, 그리고 시뮬레이션

시간지연 $e^{-sT}$ 는 크기가 정확히 1이고 위상만 $-\omega T$ 만큼 깎는다. 크기 곡선은 그대로인데 궤적이 원점을 중심으로 감기며 $-1$ 을 향해 밀려 들어가는 것이다. 남은 위상 여유를 지연으로 환산한 지연 여유 $T_{\max} = \phi_m / \omega_{gc}$ (위상 여유는 라디안)가 곧 허용 지연이며, 대역폭을 넓힐수록 $\omega_{gc}$ 가 커져 허용 지연이 반비례로 줄어든다.

이산시간에서는 경로가 우반평면 대신 단위원이다. $L(e^{j\theta})$ 를 $\theta \in [0, 2\pi)$ 에서 그리고, $P$ 는 단위원 밖의 개루프 극점 수로 바꾸면 판정식은 그대로다. 다변수계에서는 $L(s)$ 의 고유궤적(eigenloci)들이 $-1$ 을 감는 총 횟수를 세는 일반화 나이퀴스트 판별법을 쓴다.

시뮬레이션 쪽에서도 이 도구가 그대로 쓰인다. 파티션드 유체-구조 연성 결합은 유동 솔버와 구조 솔버가 서로의 출력을 입력으로 받는 되먹임 루프이고, 부가질량이 큰 문제에서 결합 반복이 발산하는 현상은 이 루프의 이득이 1을 넘는 것으로 읽힌다. 지연 항이 붙는 이유도 명확하다 — 교대식(staggered) 결합은 상대 솔버의 한 스텝 전 값을 쓰므로 $z^{-1}$ 이 곱해지고, 그만큼 위상 여유가 깎인다. 하드웨어 인 더 루프 시험은 더 직접적이다. 실물 장치와 실시간 모델이 통신 지연을 사이에 두고 닫힌 루프를 이루므로, 지연 여유를 넘기는 순간 시험대가 실제로 진동한다.²³

7. 관련 문서

같은 나이퀴스트가 같은 시기에 표본화 정리(나이퀴스트 주파수)도 남겼다. 신호처리 수업과 제어 수업에서 같은 이름이 전혀 다른 맥락으로 튀어나와 사람을 헷갈리게 하는데, 놀랍게도 동일인이 맞다. 벨 연구소 전성기의 생산성이란. ↩
부가질량 불안정은 유체 밀도와 구조 밀도의 비가 클수록(혈류-혈관, 물-얇은 판) 심해지고, 시간간격을 줄여도 사라지지 않는다는 점이 악명 높다. 시간간격을 줄이는 것이 지연을 줄이긴 하지만 결합 이득 자체는 건드리지 못하기 때문이다. 그래서 처방은 아이젠슈타트 완화나 준-뉴턴 가속, 아니면 아예 모놀리식 결합이다. ↩
“여유가 충분한데 왜 진동하죠”라는 질문의 절반은 지연을 모델에 안 넣어서, 나머지 절반은 $-1$ 에 대각선으로 붙는 궤적을 두 여유만 보고 판정해서 생긴다. 여유 두 개는 안전의 필요조건이지 충분조건이 아니다. ↩

이 문서가 문제를 푸는 데 도움이 됐나요? 한 번의 클릭이 다음 검수 순서를 정합니다.

의견을 반영할게요. 감사합니다.

다음으로 읽기 강건 제어 약 5분 더 탐색 →