전달행렬법

1. 개요

전달행렬법 Transfer Matrix Method
약칭	TMM
대상	층상(1D) 매질에서의 파동 전파
핵심 객체	층당 2×2 특성행렬(Abelès 행렬)
계산량	층 수에 선형 — 파장당 행렬곱 N번
같은 이름	1D 이징 전달행렬, 1D 양자 산란, 회전축 전달행렬

전달행렬법(transfer matrix method, TMM)은 매질이 한 방향으로만 층층이 쌓여 있을 때, 각 층이 파동의 상태벡터에 가하는 작용을 2×2 행렬 하나로 압축하고 그 행렬들을 순서대로 곱해 전체 구조의 반사·투과를 정확히 구하는 방법이다. 다층 박막 광학에서는 아벨레스(Abelès) 특성행렬이라는 이름으로 불리며, 반사방지 코팅부터 브래그 미러까지 이 바닥 계산의 사실상 전부가 이 행렬곱 한 줄이다.

강조할 점은 이게 근사가 아니라 해석해라는 것이다. 각 층 안에서 굴절률이 균일하기만 하면 맥스웰 방정식의 해는 전진파와 후진파의 선형결합으로 정확히 쓰이고, 경계조건(접선 성분 $E_t$, $H_t$ 연속)도 선형이다. 선형 + 선형이니 남는 건 행렬곱뿐. 층이 100개든 1000개든 FDTD로 격자를 깔 이유가 없다.¹

2. 층 하나의 특성행렬

층 $j$의 굴절률 $n_j$, 두께 $d_j$, 층 내부의 굴절각 $\theta_j$에 대해 위상 두께를

$$\delta_j = \frac{2\pi}{\lambda} n_j d_j \cos\theta_j$$

로 정의한다. 여기에 편광별 광학 어드미턴스를 붙인다. s 편광(TE)은 $\eta_j = n_j\cos\theta_j$, p 편광(TM)은 $\eta_j = n_j/\cos\theta_j$이다(자유공간 어드미턴스 단위). 그러면 접선 성분 $(E_t, H_t)$를 층의 앞면에서 뒷면으로 옮기는 특성행렬은

$$M_j = \begin{bmatrix} \cos\delta_j & \dfrac{i}{\eta_j}\sin\delta_j \\[6pt] i\,\eta_j \sin\delta_j & \cos\delta_j \end{bmatrix}$$

이고, $\det M_j = 1$이다(에너지 보존의 흔적). 편광이 어드미턴스 정의에만 들어간다는 게 이 형식의 미덕이다 — s/p 계산 코드가 사실상 같고, 비스듬 입사는 스넬 법칙으로 $\cos\theta_j = \sqrt{1-(n_0\sin\theta_0/n_j)^2}$를 넣어 주면 끝난다.

3. 반사·투과 진폭

$N$개 층을 쌓으면 전체 행렬은 $M = M_1 M_2 \cdots M_N$이고(빛이 들어오는 쪽부터), 기판 어드미턴스 $\eta_s$에 대해

$$\begin{bmatrix} B \\ C \end{bmatrix} = M \begin{bmatrix} 1 \\ \eta_s \end{bmatrix}$$

를 계산한 뒤

$$r = \frac{\eta_0 B - C}{\eta_0 B + C}, \qquad t = \frac{2\eta_0}{\eta_0 B + C}$$

로 진폭 반사·투과 계수가 나온다. 세기는 $R = |r|^2$, $T = (\eta_s/\eta_0)|t|^2$. 단층에 대해 이 식을 손으로 풀면 그냥 프레넬 계수가 나오므로, TMM은 프레넬 방정식을 다층으로 일반화한 물건이라고 봐도 된다. 흡수가 있으면 굴절률을 복소수 $\tilde n = n - ik$로 바꾸기만 하면 되고, 이때 $\delta$가 복소수가 되어 $\cos\delta$·$\sin\delta$가 자동으로 감쇠를 담는다. 전반사 영역에서 $\cos\theta_j$가 순허수가 되는 것도 같은 식이 알아서 처리한다.

4. 사분파장, 브래그 미러, 반사방지 코팅

$n_j d_j = \lambda_0/4$이면 설계 파장에서 $\delta = \pi/2$가 되어

$$M = \begin{bmatrix} 0 & i/\eta \\ i\eta & 0 \end{bmatrix}$$

라는 극단적으로 단순한 행렬이 된다. 이 층은 뒤쪽 어드미턴스 $Y$를 $\eta^2/Y$로 뒤집는 변환기다. 여기서 두 가지 고전 설계가 바로 떨어진다.

• 반사방지 코팅. 단층으로 $R=0$을 만들려면 $Y = \eta_0$이어야 하므로 $n_1 = \sqrt{n_0 n_s}$. 공기/유리($n_s=1.52$)면 $n_1 = 1.23$인데 그런 물질이 없어서 실무는 $\mathrm{MgF_2}$($n=1.38$)로 타협하고 잔류 반사 약 1.3%를 받아들인다. 더 넓은 대역이 필요하면 2층 V-코팅, 광대역이면 층 수를 늘려 수치 최적화로 두께를 뽑는다.²
• 브래그 미러(고반사 스택). 고굴절률 H와 저굴절률 L을 사분파장으로 번갈아 $N$쌍 쌓으면 등가 어드미턴스가 $Y = (n_H/n_L)^{2N} n_s$로 지수적으로 커지고, 반사율은 $R = \left(\frac{n_0-Y}{n_0+Y}\right)^2 \to 1$. $\mathrm{TiO_2/SiO_2}$ 10쌍이면 99.9%대가 나온다.

정지대(stopband)의 폭은 굴절률 대비만으로 결정된다.

$$\frac{\Delta\nu}{\nu_0} = \frac{4}{\pi}\arcsin\!\left(\frac{n_H-n_L}{n_H+n_L}\right)$$

정지대의 정체는 주기 구조의 밴드갭이다. 주기 하나의 행렬 $M_p$에 블로흐 조건을 걸면 $\cos(K\Lambda) = \tfrac{1}{2}\mathrm{tr}\,M_p$이고, $|\tfrac{1}{2}\mathrm{tr}\,M_p| > 1$인 구간에서 $K$가 복소수가 되어 파가 지수 감쇠한다. 즉 브래그 미러는 광결정의 1차원 판이며, 이 판정식은 밴드 구조 계산의 크로니히-페니 모형과 글자 하나 다르지 않다.

5. 캐비티, 두꺼운 층, 수치적 함정

두 미러 사이에 반파장 스페이서를 끼우면 정지대 한가운데에 투과 첨두가 뚫린다. 이게 파브리-페로 캐비티로, 대역통과 필터와 레이저 공진기의 원형이다. 미러 세기반사율 $R$에 대해 투과는 에어리 함수

$$T = \frac{T_{\max}}{1 + F\sin^2\delta}, \qquad F = \frac{4R}{(1-R)^2}$$

를 따르고, 첨두 예리함의 척도인 피네스는 $\mathcal{F} = \pi\sqrt{R}/(1-R)$이다. TMM은 이 구조를 따로 특별 취급하지 않는다 — 그냥 층 목록에 스페이서를 넣고 곱하면 에어리 함수가 저절로 나온다.

실무에서 걸리는 건 오히려 두 가지 다른 문제다.

• 결맞음 처리. 두께 1 mm짜리 유리 기판은 광원의 결맞음 길이보다 두껍고 두께 편차도 파장보다 크다. 이런 층에 위상을 그대로 넣으면 실측에 없는 촘촘한 간섭 무늬가 나온다. 정석은 이 층을 비결맞음으로 처리하는 것 — 앞뒤 코팅 스택은 진폭(행렬)으로, 두꺼운 층은 세기만 더하는 방식으로 섞는다. 앞면 $R_f, T_f$와 뒷면 $R_b$에 대해 $R_{\text{tot}} = R_f + T_f^2 R_b/(1 - R_f' R_b)$ 꼴의 무한 등비급수를 쓴다.
• 수치 불안정. 두껍고 흡수가 큰 층이나 전반사 영역에서는 $\sin\delta$, $\cos\delta$ 안의 $e^{+|{\rm Im}\,\delta|}$가 지수 폭주해 배정밀도로도 유효숫자가 날아간다. 해법은 곱셈 순서를 바꾸는 게 아니라 산란행렬(S-행렬) 전파로 갈아타는 것이다. S-행렬은 발산하는 성분끼리 곱해지지 않도록 재배열한 형식이라 안정적이고, 대가는 재귀 합성이 단순 행렬곱보다 약간 복잡하다는 것뿐이다. 층 수가 수백을 넘는 다층·회절격자 해석(RCWA)에서는 사실상 S-행렬이 표준.³

6. 이름이 같은 다른 전달행렬들

“전달행렬”은 물리 전반에서 재사용되는 이름이라 맥락 확인이 필요하다. 셋 다 아이디어의 뿌리는 같다 — 1차원 사슬에서 국소 전달 규칙을 행렬로 쓰고 곱한다.

• 통계역학의 전달행렬. 1차원 이징 모형의 분배함수는 $Z = \mathrm{tr}\,T^N$으로 정확히 계산된다. 여기서 $T$는 이웃 스핀 쌍의 볼츠만 인자를 담은 2×2 행렬이고, 열역학 극한에서 자유에너지는 최대 고윳값만으로 $f = -k_BT\ln\lambda_{\max}$가 된다. 페론-프로베니우스 정리에 의해 $\lambda_{\max}$가 유일·해석적이므로 1D 이징에는 유한 온도 상전이가 없다는 결론이 여기서 나온다.
• 양자 산란. 조각별 상수 퍼텐셜에서 1D 슈뢰딩거 방정식을 풀 때 쓰는 행렬은 광학 TMM과 형태가 같다. 사분파장 스택의 정지대가 곧 주기 퍼텐셜의 에너지 밴드갭이고, 공진 투과는 파브리-페로 첨두다.
• 구조·회전체 동역학. 상태벡터를 (처짐, 기울기, 모멘트, 전단력)로 잡고 구간(field) 행렬과 절점(point) 행렬을 곱해 나가는 미클레스타드-프롤 방법이 회전체 동역학의 고전 해법이었다. 다만 사슬이 길어지면 위에서 말한 지수 폭주로 정밀도가 무너져, 지금은 대부분 유한요소법에 자리를 내줬다.

7. 관련 문서

• 맥스웰 방정식 · 전자기해석 · FDTD
• 유한요소 전자기 · S-파라미터 · 전송선 이론
• 임피던스 정합 · 스미스 차트
• 이징 모형 · 상전이 · 밴드 구조 계산
• 광학 두께 · 흑체복사
• 회전체 동역학 · 최적설계

8. Footnotes

1. 실제로 다층 박막 설계자에게 “FDTD로 돌려보자”고 하면 정색한다. 층상 구조는 해석해가 있는데 격자를 깔면 계산비가 $10^6$배 늘고 정확도는 오히려 떨어진다. 격자 해석은 구조가 옆 방향으로도 변할 때(회절격자·메타표면) 비로소 필요해진다. ↩

2. 광대역 AR 설계는 층 두께를 설계변수로 두고 목표 반사율 스펙트럼과의 오차를 줄이는 전형적인 비선형 최소자승 문제다. 평가 한 번이 행렬곱 수십 번이라 미친 듯이 싸서, 유전 알고리즘으로 수십만 번 굴려도 커피 한 잔이면 끝난다. 설계 자유도보다 증착 장비의 두께 재현성이 먼저 한계에 걸리는 것이 이 분야의 국룰. ↩

3. 전달행렬과 산란행렬의 관계는 “곱하기 쉽지만 불안정” 대 “합성이 번거롭지만 안정”의 고전적 트레이드오프다. 논문에서 “TMM으로 200층을 풀었더니 NaN이 떴다”는 하소연을 보면 십중팔구 S-행렬로 갈아타라는 답이 달린다. ↩