모트 절연체

물리 양자역학 계산물리 마지막 수정: 2026-09-14 04:37:08

1. 개요[편집]

모트 절연체 Mott Insulator
정의	밴드 이론은 금속이라 하는데 전자간 반발 때문에 절연체인 상태
계기	1937 — 더 보어·페르베이의 NiO 보고, 파이얼스의 지적
최소 모형	허바드 모형, $U/t$ 가 크면 상·하 허바드 밴드로 분리
갭 분류	자넨-사와츠키-알렌 (1985) — 모트-허바드형 vs 전하이동형
남은 자유도	스핀. 초교환 $J\simeq 4t^2/U$ 로 반강자성
도핑하면	구리산화물 고온초전도 · 의사갭 · 스트라이프
계산법	DMFT · LDA+U · 클러스터 확장 · 정확 대각화

밴드가 반만 차 있으면 금속이다. 고체물리 첫 학기에 배우는 이 규칙이, 세상에서 가장 흔한 산화물 몇 개 앞에서 그냥 틀린다.

모트 절연체(Mott insulator)는 밴드 이론이 금속으로 예측하는데도 전자끼리의 쿨롱 반발 때문에 전자가 자리에 묶여 절연체가 되는 상태다. 밴드 이론의 실패가 근사의 정밀도 문제가 아니라 출발점의 문제라는 것이 이 개념의 요점이다. 밴드 이론은 전자 하나가 나머지 전자들의 평균장 속을 홀로 움직인다고 가정하는데, 반발이 충분히 세면 전자들은 평균을 보는 것이 아니라 서로를 피해 다니고, 그 회피가 전도 자체를 막는다.

역사적 발단은 1937년이다. 더 보어와 페르베이가 NiO 를 비롯한 전이금속 산화물이 밴드 계산상 부분 충전 $3d$ 밴드를 갖는데도 절연체라고 보고하자, 파이얼스가 “전자간 상호작용을 빼먹었기 때문”이라고 지적했다. 네빌 모트가 이 발상을 1949년 이후 정리해 나갔고, 1963~64년 허바드가 최소 모형을 써서 갭이 어떻게 생기는지 보였다. 모트는 1977년 노벨 물리학상을 받았다.

보스-허바드 모형의 모트 상과 이름이 같지만 무대가 다르다 — 이쪽은 페르미온이고 스핀이 남으며 밴드 이론이라는 비교 대상이 존재한다. 차이의 정리는 그쪽 문서의 대조표에 있다.

2. 허바드 모형 — 갭이 생기는 최소 장치[편집]

허바드 모형은 격자 위 전자에게 딱 두 가지만 허용한다. 이웃으로 뛰는 것과, 같은 자리에서 만나면 반발하는 것.

\hat H=-t\sum_{\langle i,j\rangle,\sigma}\left(\hat c^\dagger_{i\sigma}\hat c_{j\sigma}+\text{h.c.}\right) +U\sum_i \hat n_{i\uparrow}\hat n_{i\downarrow}

반채움(자리당 전자 1개)을 생각하자. $U=0$ 이면 밴드가 정확히 반만 차서 금속이다. 반대로 $t=0$ 이면 모든 자리에 전자가 하나씩 앉고, 하나를 옆으로 옮기려면 이중 점유를 만들어야 하니 $U$ 가 든다 — 절연체이고 갭이 $U$ 다.

유한한 $t$ 에서는 두 갈래로 밴드가 갈라진다. 이미 전자가 있는 자리로 뛰어드는 과정과 빈 자리로 뛰는 과정이 에너지가 $U$ 만큼 다르기 때문에, 원래 하나였던 밴드가 폭 $W=2zt$ 짜리 하부 허바드 밴드(점유)와 상부 허바드 밴드(비점유)로 분리된다. 대략적인 갭은

\Delta_{\rm gap}\simeq U-W

이고, $U\gtrsim W$ 가 모트 절연체의 조건이다. 여기서 강조해 둘 것이 있다. 허바드 밴드는 블로흐 밴드가 아니다. 블로흐 밴드는 단일입자 고유상태의 분산인데, 허바드 밴드는 “전자를 하나 더 넣거나 빼는 데 드는 에너지”의 분포다. 그래서 밴드 구조 계산의 통상적인 도구로는 잡히지 않고, 스펙트럼 함수 $A(\mathbf k,\omega)$ 를 계산하는 다체 이론이 필요하다.

3. 모트-허바드형과 전하이동형[편집]

실제 전이금속 산화물에서는 $d$ 전자만 있는 것이 아니라 산소 $2p$ 밴드가 함께 있다. 그래서 “갭을 건너뛰는 가장 싼 여기”가 무엇인지 따져 봐야 하고, 이 분류를 정리한 것이 1985년 자넨-사와츠키-알렌(ZSA) 도식이다. 두 에너지 척도를 비교한다.

$U$ — $d^n d^n\to d^{n+1}d^{n-1}$ , 즉 금속 자리끼리 전자를 주고받는 비용.
$\Delta$ — 전하이동 에너지. 산소 $p$ 에서 금속 $d$ 로 전자를 옮기는 비용.

	$U<\Delta$	$\Delta<U$
이름	모트-허바드형	전하이동형
갭 크기	$U$	$\Delta$
갭을 건너는 여기	$d\to d$	$p\to d$
도핑한 정공이 사는 곳	금속 $d$ 궤도	산소 $p$ 궤도
대표 물질	Ti, V 산화물 (Ti $_2$ O $_3$ , V $_2$ O $_3$ )	Ni, Cu 산화물 (NiO, La $_2$ CuO $_4$ )

경향은 주기율표를 따라 간다. 전이금속 계열의 왼쪽에서 오른쪽으로 갈수록 $d$ 준위가 깊어져 $\Delta$ 가 줄고, 그래서 초기 전이금속은 모트-허바드형, 후기 전이금속은 전하이동형이 된다. $U,\Delta$ 가 모두 밴드폭보다 작아지면 금속이 되고, 그 경계가 ZSA 상도의 재미다.

구리산화물이 전하이동형이라는 사실은 단순한 분류 항목이 아니다. 정공을 도핑하면 그 정공이 구리가 아니라 산소에 들어가고, 구리의 스핀과 산소의 정공이 묶여 스핀 싱글렛(장-라이스 싱글렛)을 이룬다. 이 복합 객체가 단일 밴드 유효 모형의 “정공”으로 행세하기 때문에, 세 밴드(Cu $d$ + O $p$ 두 개) 모형이 결국 단일 밴드 $t$ - $J$ 모형으로 환원되는 근거가 여기서 나온다. 고온초전도 이론이 왜 단일 밴드 허바드 모형을 최소 모형으로 삼는지의 정당화가 ZSA 논의 위에 서 있는 셈이다.

4. 남은 스핀과 초교환[편집]

모트 절연체에서 전하는 얼어붙었지만 스핀은 살아 있다. 자리마다 전자 하나씩이니 위/아래 두 가지 선택이 남고, 자리 $N$ 개면 $2^N$ 겹 축퇴다. 이 축퇴를 푸는 것이 2차 섭동론이다.

이웃한 두 자리의 스핀이 평행이면 파울리 배타 원리 때문에 어느 쪽도 상대 자리로 못 뛴다. 반평행이면 잠깐 뛰어 이중 점유( $U$ 만큼 손해)를 만들었다가 돌아올 수 있고, 이 가상 과정이 2차 섭동으로 에너지를 낮춘다. 이득은 $-4t^2/U$ 규모이며, 결과적으로 유효 해밀토니안이

\hat H_{\rm eff}=J\sum_{\langle i,j\rangle}\mathbf S_i\cdot\mathbf S_j, \qquad J=\frac{4t^2}{U}>0

가 된다. 부호가 양수라는 것은 반평행이 유리하다는 뜻이고, 따라서 모트 절연체는 자연스럽게 반강자성이 된다. 이것이 초교환(superexchange)이며, 안데르손이 정식화했다.

숫자 감각이 중요하다. 전형적인 산화물에서 $t\sim0.4$ eV, $U\sim8$ eV 면 $J\sim80$ meV 로, 갭보다 두 자릿수 작다. 그래서 온도 척도가 완전히 분리된다 — 전하 갭은 수천 K 규모라 상온에서도 절연체지만, 스핀 질서는 수백 K 에서 녹는다. **“네엘 온도 위에서도 여전히 모트 절연체”**라는 문장이 모순이 아닌 이유다.

여기서 흔한 오해 하나를 정리하자. 자기 질서가 갭을 만든다고 보는 관점(슬레이터 절연체)과 상호작용이 갭을 만든다고 보는 관점(모트 절연체)은 다르다. 슬레이터 그림에서는 반강자성 질서가 단위포를 두 배로 키워 밴드를 접으면서 갭이 생기므로, 질서가 녹으면 금속이 되어야 한다. 실제 모트 절연체는 그렇지 않다. 질서와 무관하게 갭이 유지되는가가 둘을 가르는 실험적 시금석이다.

5. 도핑하면 무슨 일이 일어나는가[편집]

반채움에서 조금 벗어나면 상황이 급변한다. 정공이 몇 % 만 들어와도 그 정공은 반강자성 배경 위를 돌아다녀야 하는데, 움직일 때마다 주변 스핀 배열을 흐트러뜨린다. 전하와 스핀이 서로를 방해하는 이 문제가 강상관 물리의 본진이고, 여기서 나오는 것이 구리산화물 상도다.

의사갭. 초전도 임계온도 위에서도 스펙트럼의 일부 영역에 갭이 열려 있다. 짝이 먼저 생겼는데 위상 결맞음이 없는 상태인지, 경쟁하는 별개의 질서인지 아직 논쟁 중이다.
스트라이프. 정공과 스핀이 균일하게 섞이지 않고 줄무늬로 분리되는 배열이 관측된다. 여러 수치 방법이 서로 다른 답을 주다가 최근에야 일부 영역에서 수렴하기 시작했다.
$d$ -파 초전도. 최적 도핑 근처에서 초전도가 나온다. 짝짓기의 매개가 반강자성 스핀 요동이라는 것이 유력한 시나리오지만 합의된 정량 이론은 없다.

계산이 막혀 있는 이유는 분명하다. 반채움의 이분 격자 허바드 모형은 입자-정공 대칭 덕에 결정식이 제곱 형태로 묶여 양자 몬테카를로에 부호 문제가 없다. 그런데 도핑하는 순간 그 대칭이 깨지고 부호 문제가 터진다. 정확히 우리가 알고 싶은 영역이 계산 불가 영역이다. 자세한 사정은 부호 문제 문서에 있다.

6. 계산 방법[편집]

LDA+U. 가장 싼 처방. 밀도범함수이론의 국소 범함수에 국소 궤도에 대한 허바드형 보정을 더해, 점유된 궤도는 내리고 비점유는 올려 강제로 갭을 연다. 구현이 간단하고 격자 이완·포논까지 같이 돌릴 수 있어 재료 계산의 주력이다. 한계도 분명하다 — 보정이 정적(진동수 무관)이라 자기 질서가 있는 절연체에만 잘 듣고, 질서가 없는 상자성 모트 절연체를 기술하지 못한다. 그리고 $U$ 값을 어떻게 정하느냐는 영원한 논쟁거리다(선형 응답이나 제한 RPA 로 계산하는 방법이 있지만 결국 값이 갈린다).

DMFT(동적 평균장 이론). 이 분야의 판을 바꾼 방법이다. 무한 차원 극한에서 자체 에너지의 운동량 의존성이 사라진다는 관찰에서 출발해, 격자 문제를 자기일관하게 결정되는 유효 매질 속의 단일 불순물 문제로 사상한다. 공간 요동은 평균장으로 뭉개지만 시간(진동수) 요동은 정확히 다루기 때문에, 준입자 봉우리와 상·하 허바드 밴드가 공존하는 세 봉우리 구조가 저절로 나온다. 금속에서 절연체로 가면서 준입자 무게가 연속적으로 죽는 과정을 그려 낸 것이 이 방법의 대표 성과다. 불순물 풀이기로는 연속시간 QMC, 수치적 재규격화군, 정확 대각화 등을 쓰며, 여기서도 다중 궤도·비밀도형 상호작용이 들어오면 QMC 풀이기에 부호 문제가 다시 등장한다.

DFT+DMFT. LDA+U 의 $U$ 자리에 DMFT 를 꽂은 것. 실제 물질의 밴드 구조 위에서 상관 효과를 동적으로 다루므로 광전자 분광 스펙트럼을 정량 비교할 수 있다. 계산 비용은 LDA+U 보다 몇 자릿수 비싸다.

클러스터 확장. DMFT 의 최대 약점은 자체 에너지가 $\mathbf k$ 에 의존하지 않는다는 것인데, 의사갭이나 $d$ -파 짝짓기는 본질적으로 $\mathbf k$ 의존 현상이다. 그래서 불순물 대신 여러 자리로 된 클러스터를 매질에 담근다. 운동량 공간에서 자르는 DCA 와 실공간에서 자르는 CDMFT 가 두 갈래다. 클러스터가 커질수록 정확해지지만 비용이 지수적이고 부호 문제가 심해져서 보통 4~16 자리 선에서 멈춘다.

그 외. 작은 계는 정확 대각화, 1차원은 DMRG, 2차원은 텐서 네트워크 계열(PEPS)과 변분 몬테카를로가 각각 다른 각도로 붙는다. 2015년 이후 여러 방법을 같은 모형·같은 매개변수에 돌려 서로 비교하는 공동 벤치마크가 관행이 된 것이 이 분야의 큰 변화다. 방법마다 답이 다르면 그 자체가 논문 주제가 되며, 이는 검증 및 확인의 정신이 이론물리에서 구현된 형태다.

7. 모트 전이[편집]

$U/W$ 를 바꿔 절연체와 금속 사이를 오가는 전이 자체도 연구 대상이다. 조절 방식이 둘이다.

밴드폭 조절. 압력을 걸어 $t$ 를 키운다. V $_2$ O $_3$ 의 온도-압력 상도가 교과서 사례로, 반강자성 절연체·상자성 금속·상자성 절연체가 한 장에 나온다.
채움 조절. 도핑으로 반채움에서 벗어난다. 구리산화물이 그 예.

밴드폭 조절 전이는 유한 온도에서 1차 전이이고, 온도를 올리면 임계 종점에서 끝난다. 그 종점의 임계 거동이 이징 모형 부류라는 것이 DMFT 로 예측되고 실험으로 확인됐다 — 액체-기체 임계점과 같은 보편성 부류다. 전자가 스스로 응축하는 액체처럼 군다는 비유가 여기서는 수학적으로 정당하다.

8. 여담[편집]

“밴드 이론이 틀렸다”는 표현은 정확히는 독립 입자 근사가 틀렸다는 뜻이다. 밴드 이론은 여전히 실리콘과 구리에서 놀랍도록 잘 맞고, 인류 반도체 산업 전체가 그 위에 서 있다. 모트 절연체는 그 근사가 무너지는 구석을 골라낸 것이다.¹
일반 DFT 범함수가 모트 절연체를 금속으로 예측하는 것은 널리 알려진 실패 사례인데, 그 원인이 자기상호작용 오차라는 점 때문에 $U$ 를 얹는 것이 사실상 자기상호작용 보정처럼 작동한다는 해석이 있다. 그래서 LDA+U 는 강상관 이론이라기보다 오차 보정 반창고에 가깝다는 시각도 만만치 않다.²
냉원자 쪽에서 페르미-허바드 모형을 광격자로 구현해 반강자성 스핀 상관까지 관측하는 데 성공했다. 진짜 관심사인 저온 $d$ -파 영역은 엔트로피를 더 빼야 도달한다. 고체에서 40년 걸려 못 푼 문제를 원자 기체에서 풀겠다는 발상인데, 아직 승부는 안 났다.
모트 절연체가 순수한 학술 주제만은 아니다. VO $_2$ 계열의 금속-절연체 전이는 상온 근처에서 일어나고 저항이 몇 자릿수 뛰기 때문에, 스마트 윈도우·선택 스위치·뉴로모픽 소자로 상용화가 시도되고 있다. 다만 VO $_2$ 의 전이가 순수 모트인지 파이얼스 격자 왜곡이 주범인지는 20년 넘게 싸우는 중이다.³

9. 관련 문서[편집]

그래서 응집물질 쪽에는 물질을 “약상관/강상관”으로 나누는 관습이 있다. 경계가 칼같지 않고, 어떤 물질이 어느 쪽인지가 논문 제목이 되기도 한다. 대체로 $d$ 나 $f$ 전자가 전도에 관여하면 강상관 쪽을 의심한다. ↩
LDA+U 의 $U$ 를 “물리적 스크리닝된 쿨롱 적분”으로 볼 것이냐 “실험에 맞추는 조절 손잡이”로 볼 것이냐는 계산 커뮤니티의 오래된 긴장이다. 후자로 쓰면 갭은 맞출 수 있지만 예측력이 사라지고, 전자로 쓰면 값이 계산 방식에 따라 2배씩 갈린다. 어느 쪽이든 논문에는 $U$ 를 어떻게 정했는지 반드시 적어야 한다. ↩
VO $_2$ 논쟁이 끈질긴 이유는 전이가 일어날 때 전자 구조와 결정 구조가 동시에 바뀌기 때문이다. 둘을 분리하려고 초고속 분광으로 시간 순서를 재는 실험까지 동원됐고, 지금은 “둘 다 필요하다”는 쪽으로 수렴하는 분위기다. 원인 하나를 지목하고 싶은 인간의 습관이 자연에서 좌절되는 흔한 패턴. ↩