모드 전개법

전자기해석 전자기학 수치해석 마지막 수정: 2026-09-06 04:38:52

1. 개요[편집]

모드 전개법 Eigenmode Expansion Method (EME)
다른 이름	고유모드 전개법 · 모드 정합법(mode matching)
대상	z 방향으로 구간별 균일한 도파로 구조
기본 조작	단면 고유모드 풀기 → 계면 중첩적분 → S-행렬 연결
방향성	완전 양방향(반사·다중 반사 포함)
강점	균일 구간 길이가 비용에 거의 영향 없음
약점	모드 개수 수렴 · z 방향 연속 변화의 계단 근사

구조가 z 방향으로 안 변하는 구간에서는, 빛이 하는 일이 위상을 도는 것뿐이다. 그 구간은 길든 짧든 행렬 하나다.

모드 전개법(eigenmode expansion method, EME)은 광도파로 구조를 전파 방향 $z$ 에 대해 균일한 구간들로 잘라, 각 구간에서 맥스웰 방정식의 횡방향 고유모드를 미리 풀어 두고, 필드를 그 모드들의 전방·후방 중첩으로 전개한 뒤 계면마다 모드 정합 조건으로 산란행렬을 만들어 이어 붙이는 주파수 영역 수치 기법이다. 「전파를 푼다」기보다 **「구간마다 기저를 갈아 끼우며 계수만 옮긴다」**에 가깝다.

먼저 범위를 못 박아 두자. 이 문서가 다루는 것은 도파로·광소자의 전자기 해석이다. 구조동역학에서 진동 응답을 고유모드의 중첩으로 푸는 모드 중첩법(mode superposition)은 이름과 발상이 닮았지만 다른 물건이고, 모드 해석 문서에 있다. 둘의 공통점은 “고유함수를 기저로 삼는다”까지이고, EME의 핵심은 그다음 — 서로 다른 기저를 계면에서 어떻게 잇는가다.

빔 전파법(BPM) 문서에서 “되돌아오는 것이 있으면 EME”라고 넘긴 그 이야기가 여기다. BPM은 $\partial_z^2$ 를 버려 후방파를 잃었지만, EME는 각 구간의 모드를 $e^{-i\beta_m z}$ 와 $e^{+i\beta_m z}$ 둘 다 들고 있으므로 반사가 처음부터 정식화에 들어 있다.

2. 균일 구간에서 필드가 하는 일[편집]

굴절률 분포가 $z$ 에 무관한 구간을 생각하자. 맥스웰 방정식에서 $z$ 의존성을 $e^{-i\beta z}$ 로 분리하면 횡단면 위의 고유값 문제가 남는다. 스칼라 근사로 쓰면

\left[\nabla_{\!\perp}^{2} + k_0^2 n^2(x,y)\right]\psi_m(x,y) = \beta_m^2\,\psi_m(x,y)

이고, 완전벡터 정식화에서는 횡방향 두 성분에 대한 연산자 고유값 문제가 된다. 푸는 도구는 이미 있는 것들 — 유한차분 모드 솔버, 유한요소법 모드 솔버, 층상 구조라면 해석적 초월방정식. 자세한 것은 모드 해석과 고유값 문제 참고.

이 구간 안의 필드는 모드들의 선형결합이다.

E_\perp(x,y,z) = \sum_{m} \left( a_m e^{-i\beta_m z} + b_m e^{+i\beta_m z}\right)\psi_m(x,y)

여기가 EME의 심장이다. 구간 안에서 모드들은 서로 결합하지 않으므로, 길이 $L$ 인 구간을 지나는 일은 계수에 대각 위상 행렬을 곱하는 것뿐이다.

a_m(L) = e^{-i\beta_m L}\,a_m(0)

$L$ 이 1 µm든 1 cm든 계산량이 같다. 이것이 EME가 긴 소자에서 압도적으로 유리한 이유이며, 격자를 채워야 하는 FDTD나 스텝을 밟아야 하는 BPM과 근본적으로 다른 지점이다. 1 cm짜리 스파이럴 지연선의 전송 특성을 EME는 사실상 공짜로 준다.

3. 계면 — 모드 정합과 중첩적분[편집]

두 구간이 만나는 $z=z_0$ 에서 굴절률 분포가 바뀌므로 모드 집합도 통째로 바뀐다. 물리적 조건은 하나다. 횡방향 전기장과 자기장이 계면에서 연속.

왼쪽 구간의 모드를 $\psi_m^{(1)}$ , 오른쪽을 $\psi_n^{(2)}$ 라 하면, 연속 조건을 $\psi_n^{(2)}$ 에 사영해 계수 관계를 얻는다. 여기 등장하는 것이 중첩적분(overlap integral)이다.

O_{mn} = \frac{1}{2}\int \left(\mathbf{E}^{(1)}_m \times \mathbf{H}^{(2)*}_n\right)\cdot \hat{z}\,dA

이 값이 “왼쪽의 $m$ 번 모드가 오른쪽의 $n$ 번 모드에 얼마나 닮았는가”를 재는 숫자다. 계면 하나가 결국 중첩적분 행렬의 조합으로 표현되고, 그 결과가 그 계면의 반사·투과 계수를 담은 $2\times2$ 블록 행렬이다. 계면에서 반사가 생기는 정도가 곧 모드 프로파일의 불일치이므로, “모드가 얼마나 안 닮았는지가 반사”라는 물리적 직관이 수식에 그대로 박혀 있다.

여기서 한 가지 중요한 사실. 완전한 기저를 쓰려면 유도모드만으로는 부족하다. 도파로에는 유도모드가 유한 개뿐이고, 나머지는 연속 스펙트럼의 방사모드다. 급격한 계면에서 산란된 빛의 상당 부분이 이 방사모드로 나가므로 이를 빼면 에너지가 안 맞는다. 처방은 구조를 유한한 계산 상자에 가두는 것 — 상자 벽을 전기벽/자기벽으로 두거나 완전정합층(PML)으로 감싸면 연속 스펙트럼이 이산화되어 「상자 모드」의 셈틀 수 있는 집합이 된다. 벽을 그냥 금속벽으로 두면 방사된 빛이 되돌아와 가짜 공진을 만들므로, PML을 쓰고 모드 개수를 늘려 가며 수렴을 확인하는 것이 실무 절차다.

4. S-행렬로 잇기 — T-행렬을 쓰면 안 되는 이유[편집]

구간과 계면이 각각 행렬 하나씩이면, 소자 전체는 그 행렬들을 순서대로 곱한 것이다. 문제는 어떤 행렬로 곱하느냐다.

전달행렬(T-행렬)은 왼쪽의 (전방, 후방) 진폭을 오른쪽의 (전방, 후방) 진폭으로 보내므로 단순히 곱하면 된다. 전달행렬법 문서에 있는 그 방식이다. 그런데 EME의 기저에는 소멸파(evanescent) 모드가 잔뜩 들어 있고, 이들은 $\beta_m$ 이 순허수라 $e^{\pm i\beta_m L}$ 이 실지수 $e^{\pm|\beta_m| L}$ 가 된다. T-행렬 안에 $e^{+|\beta| L}$ 라는 항이 그대로 앉아 있게 되고, 구간을 몇 개만 곱해도 배정밀도의 동적 범위를 넘겨 행렬이 수치적으로 붕괴한다. 층 하나가 몇 파장만 두꺼워도 재현되는 고전적 실패다.¹

그래서 EME는 산란행렬(S-행렬)로 간다. S-행렬은 구조 바깥으로 나가는 진폭을 안으로 들어오는 진폭으로 표현한다.

\begin{pmatrix} b^{(1)} \\ a^{(2)} \end{pmatrix} = \begin{pmatrix} S_{11} & S_{12} \\ S_{21} & S_{22}\end{pmatrix} \begin{pmatrix} a^{(1)} \\ b^{(2)} \end{pmatrix}

여기에는 증가하는 지수가 원리적으로 나타나지 않는다. 소멸파는 항상 감쇠하는 방향으로만 등장하므로 성분 크기가 1을 넘지 않고, 무손실 구조라면 유니터리성이 유지되어 수치 검산까지 공짜로 된다.

대가는 결합 규칙이 단순 행렬곱이 아니라는 것이다. 두 S-행렬을 이어 붙이는 연산은 레드헤퍼 스타곱(Redheffer star product)이라 불리는 형태로, 사이 구간에서 앞뒤로 왕복하는 다중 반사를 기하급수 $(I - S_{22}^{(1)}S_{11}^{(2)})^{-1}$ 로 한 번에 합산한다. 역행렬 하나가 추가되지만 안정성을 얻는다. 다중 반사가 무한 급수가 아니라 선형계 한 번으로 정확히 처리된다는 점이 EME가 파브리-페로 공진이나 링 결합을 정확히 다루는 이유다.

5. 주기 구조와 테이퍼 — 비용이 길이와 무관해지는 자리[편집]

EME가 다른 방법을 압도하는 두 상황이 있다.

주기 구조. 같은 주기가 $N$ 번 반복되면 그 한 주기의 S-행렬 하나만 계산하면 된다. 반복은 스타곱의 거듭제곱이고, 이진 거듭제곱을 쓰면 $O(\log N)$ 이다. 심지어 주기 하나의 T-행렬 고유값 분해에서 블로흐 모드와 그 전파상수를 직접 뽑을 수 있어, 광자 밴드갭의 위치와 감쇠 상수가 반복 없이 나온다. 브래그 격자, 격자 결합기, 분포 궤환 레이저의 설계가 이 성질 위에 서 있다. FDTD로 같은 구조를 풀려면 주기 수만큼 시간을 더 돌려야 한다.

테이퍼. 폭이 연속적으로 변하는 구간은 원래 EME의 가정을 위반하므로, 계단 근사(staircase)로 잘게 썰어 각 계단을 균일 구간으로 취급한다. 계단 수가 정확도를 지배하고, 이것이 EME의 가장 큰 비용 항목이 된다. 다행히 완화 장치가 있다.

주기적 대칭성 재활용. 계단 형상이 반복되면 모드 계산을 캐시한다.
모드 보간. 인접한 계단들의 모드가 거의 같다는 성질을 이용해 모드 솔버 호출을 줄인다.
단열 판정. 테이퍼가 충분히 느리면 국소 기본 모드만 살아남으므로 모드 개수를 줄여도 된다. EME는 이 「충분히 느린가」를 정량적으로 답해 주는 도구이기도 하다 — 계단 수를 늘려 가며 고차 모드로 새는 전력을 직접 재면 된다.

여기서 나오는 실무 이점 하나. 테이퍼 길이를 100 µm에서 500 µm로 바꿔 가며 스윕할 때, EME는 계단 하나의 S-행렬을 재계산할 필요가 없다. 길이는 위상 행렬의 대각 성분에만 들어가므로, 길이 스윕이 사실상 공짜다. 광집적회로 설계에서 길이 최적화가 가장 흔한 작업임을 생각하면 이 성질이 곧 EME를 쓰는 이유다.

6. 언제 쓰고 언제 안 쓰는가[편집]

상황	EME	대안
긴 테이퍼·방향성 결합기·MMI	최적 — 길이 스윕이 공짜	BPM(반사 무시 가능하면)
급격한 계면, 도파로 끝단 반사	최적 — 양방향이 본질	FDTD
주기 격자, 브래그 반사기	최적 — 스타곱 거듭제곱	FDTD · 결합모드 이론
링 공진기 결합부	좋음 — 결합 계수를 정확히	FDTD
광결정 결함 공동, 준파장 산란체	나쁨 — 모드 수가 폭발	FDTD · 주파수영역 고유해석
강한 z 방향 연속 변화, 곡선 벤드	나쁨 — 계단 근사 비용	곡선 좌표 BPM · FDTD
비선형·시간영역 펄스 응답	부적합 — 주파수 영역 기법	FDTD

정리하면 z 방향으로 「구간별 균일」이라는 구조를 실제로 갖고 있느냐가 유일한 판단 기준이다. 그 구조가 있으면 EME는 다른 방법보다 자릿수 단위로 싸고, 없으면 계단 수가 폭발해 가장 비싼 방법이 된다.

구현체로는 벨기에 겐트 대학에서 나온 오픈소스 CAMFR이 이 방법론의 교과서 격이고, 상용에서는 Lumerical의 EME 솔버와 Photon Design의 FIMMPROP이 널리 쓰인다. 어느 쪽이든 사용자가 실제로 만지는 손잡이는 결국 두 개다 — 모드 개수와 계단 수.

7. 수렴과 함정[편집]

모드 개수 수렴은 단조롭지 않다. 모드를 늘리면 답이 참값으로 매끄럽게 다가가는 대신 진동하며 접근하거나, 특정 개수에서 오히려 나빠지기도 한다. 벡터 정식화에서 서로 다른 종류의 모드(TE형·TM형·소멸파)를 불균형하게 잘라 넣으면 계면 조건이 상대적으로 잘못 만족되기 때문으로 설명된다. 하나의 모드 개수에서 얻은 답을 믿지 말고 반드시 스윕한다.
PML 파라미터가 답을 바꾼다. 상자 크기와 PML 두께·흡수 강도가 방사모드 집합을 결정하므로, 이들도 수렴 파라미터다. 특히 방사가 심한 구조(도파로 끝단, 격자 결합기)에서 민감하다.
에너지 보존 검산. 무손실 구조에서 반사율 + 투과율 + 방사 = 1 이 안 나오면 모드가 부족하거나 상자가 작은 것이다. 이 검산이 공짜라는 것이 S-행렬 정식화의 실질적 미덕이다.
모드 순서가 뒤집히는 사고. 파라미터를 스윕하며 모드 솔버를 반복 호출하면, 두 모드의 실효 굴절률이 교차하는 지점에서 모드 번호가 서로 바뀐다. 번호로 모드를 추적하는 코드는 여기서 조용히 엉뚱한 모드를 따라간다. 프로파일 중첩으로 추적하는 것이 정석이다.²
계단 근사가 만드는 가짜 반사. 테이퍼를 거칠게 자르면 각 계단이 미소 반사를 만들어 실제로는 없는 리플이 스펙트럼에 낀다. 계단 수를 늘리면 사라지므로, 리플이 보이면 물리를 의심하기 전에 이산화를 먼저 의심한다.

8. 여담[편집]

모드 정합법 자체는 광학의 발명품이 아니다. 마이크로파 시절 도파관 불연속면(계단형 임피던스 변환기, 아이리스, 혼 안테나)의 해석에 쓰던 고전적 기법이 그대로 광파장으로 내려온 것이다. 도파관 문헌에서 “mode matching”이라 부르는 것과 광집적회로 문헌의 “EME”는 사실상 같은 방법이다.³
층이 하나뿐인 1차원 다층막에 EME를 적용하면 각 층에 평면파 모드 하나(각 편광당)만 남는다. 그 순간 EME는 정확히 전달행렬법이 된다. 반대로 말하면 전달행렬법은 모드가 한 개인 EME이고, 두 방법이 같은 뿌리라는 것이 이 극한에서 드러난다.
주기 방향으로 푸리에 기저를 쓰면 같은 뼈대가 회절격자 해석의 표준인 RCWA(엄밀 결합파 해석)가 된다. 모드 솔버를 「푸리에 조화 성분으로 잘라 만든 고유값 문제」로 바꾼 것뿐이고, S-행렬 연결과 소멸파 안정성 문제는 완전히 동일하다.
이름 때문에 생기는 혼선이 실재한다. 구조 진동 쪽 사람에게 “모드 전개”라고 하면 모드 해석의 모드 중첩을 떠올리고, 양자역학 쪽에서는 고유상태 전개를 떠올린다. 셋 다 “고유함수로 전개한다”는 같은 수학이고, 다른 것은 무엇의 고유값 문제냐뿐이니 사실 틀린 연상도 아니다.

9. 관련 문서[편집]

증상이 정말 극적이다. 모드를 20개 쓰면 멀쩡하다가 40개로 늘리는 순간 반사율이 $10^{12}$ 로 나온다. 새로 들어온 고차 소멸파의 감쇠 상수가 커서 $e^{+|\beta|L}$ 이 배정밀도 상한을 넘겨 버린 것인데, 정확도를 올리려고 모드를 늘렸더니 답이 폭발한다는 전개라 원인을 짐작하기가 유난히 어렵다. 전달행렬법 문서의 “두꺼운 층” 함정과 같은 병이다. ↩
이 사고가 특히 짜증나는 이유는 결과가 “그럴듯하기” 때문이다. 결합 길이 곡선이 스윕 도중에 갑자기 꺾여 있으면 십중팔구 물리적 분기가 아니라 모드 번호가 바뀐 것이다. 회피 교차(avoided crossing) 근처에서는 사람이 눈으로 봐도 헷갈리므로, 프로파일 중첩값을 같이 찍어 두는 습관이 시간을 아낀다. ↩
그래서 마이크로파 교재의 계단형 도파관 불연속 챕터를 읽으면 EME 논문이 훨씬 쉽게 읽힌다. 40년 먼저 나온 문헌이 같은 함정(상대 수렴 현상, 모드 개수 비율을 잘못 잡으면 답이 엉뚱한 값으로 수렴하는 것)을 이미 다 정리해 두었다. 분야가 바뀌면 같은 실수를 처음부터 다시 하는 것이 이 바닥의 전통이지만, 가끔은 문헌을 뒤지는 쪽이 빠르다. ↩