벨 부등식

1. 개요[편집]

벨 부등식 Bell Inequality
제안	존 스튜어트 벨 (1964)
실험용 형태	CHSH (클라우저-혼-시모니-홀트, 1969)
고전 한계	S ≤ 2
양자 한계	S ≤ 2√2 ≈ 2.828 (치렐손, 1980)
무신호 한계	S ≤ 4 (PR 상자)
허점 없는 검증	2015년 (델프트 · NIST · 빈)

철학 논쟁으로 30년을 끌던 문제를 벨이 한 줄의 부등식으로 바꿔 놓았다. 그때부터는 논쟁이 아니라 측정이었다.

벨 부등식(Bell inequality)은 국소 실재론, 즉 “측정 결과가 측정 전부터 정해져 있고 어떤 영향도 빛보다 빠르게 전파되지 않는다”는 가정이 만족해야 하는 상관관계의 한계를 말한다. 1964년 존 스튜어트 벨이 EPR 논변에 답하며 제시했고, 실험에서 실제로 쓰이는 형태는 1969년 클라우저-혼-시모니-홀트의 CHSH 부등식

$$S \;=\; \big|\,E(a,b) + E(a,b') + E(a',b) - E(a',b')\,\big| \;\le\; 2$$

다. 여기서 $E(a,b)$ 는 앨리스가 설정 $a$, 밥이 설정 $b$ 를 골랐을 때 $\pm1$ 결과의 상관이다. 양자역학은 이 값을 $2\sqrt2$ 까지 올릴 수 있고, 실험은 그것을 확인했다. 2022년 노벨 물리학상이 아스페·클라우저·차일링거에게 간 이유가 이것이다.

이 문서는 양자 얽힘이 개괄한 내용의 부등식 쪽을 담당한다. 얽힘의 정의·벨 상태·베르너 상태의 얽힘 대 비국소성 간극은 그쪽에 있고, 여기서는 유도 · 왜 하필 $2\sqrt2$ 인가 · 허점 · 유한 표본 통계 · 수치적으로 다루는 법을 판다.

2. 벨의 원래 부등식 (1964)[편집]

벨은 EPR이 요구한 “완전한 상관”을 그대로 받아들이는 것에서 시작했다. 스핀 싱글릿에서 같은 방향으로 재면 결과는 항상 반대다: $E(a,a) = -1$. 국소 숨은 변수 $\lambda$ 가 있다면 이는 모든 $\lambda$ 에 대해 $B(a,\lambda) = -A(a,\lambda)$ 를 강제한다. 그러면 세 방향 $a,b,c$ 에 대해

$$\big|E(a,b) - E(a,c)\big| \;\le\; 1 + E(b,c)$$

가 따라온다. 이제 양자 예측 $E(a,b) = -\cos(\theta_a - \theta_b)$ 를 넣고 각도를 $0°,\,60°,\,120°$ 로 잡으면 좌변은 $|-\tfrac12 - \tfrac12| = 1$, 우변은 $1 - \tfrac12 = \tfrac12$ 다. 1 > 0.5, 위반. 국소 숨은 변수 이론은 양자역학의 예측을 재현할 수 없다.

문제는 이 형태가 완전 상관 $E(a,a) = -1$ 을 전제한다는 것이다. 검출기 효율이 100%가 아니고 광원이 완벽하지 않은 실제 실험에서는 그 전제가 절대 성립하지 않는다. 벨의 1964년 부등식은 아름답지만 실험 불가능하다. 이 간극을 메운 것이 CHSH다.

3. CHSH — 실험이 실제로 쓰는 형태[편집]

CHSH는 완전 상관을 요구하지 않는다. 필요한 가정은 딱 두 개다. 국소성(앨리스의 결과는 밥의 설정에 의존하지 않는다)과 실재성(선택하지 않은 설정에 대해서도 결과값이 정의된다). 이를 합치면 각 시행마다 숨은 변수 $\lambda$ 와 함수 $A(a,\lambda), A(a',\lambda), B(b,\lambda), B(b',\lambda) \in \{-1,+1\}$ 이 존재한다는 뜻이다. 그러면

$$A(a)\big[B(b)+B(b')\big] + A(a')\big[B(b)-B(b')\big]$$

에서 $B(b),B(b')$ 이 같으면 앞 괄호가 $\pm2$, 뒤 괄호가 $0$ 이고, 다르면 그 반대다. 어느 경우든 전체는 정확히 $\pm2$. $\lambda$ 에 대해 평균하면 $|S| \le 2$ 다. 증명 끝이다 — 양자역학이 전혀 등장하지 않고, 물리 이론이 아니라 논리의 제약이라는 점이 이 부등식의 힘이다.

이제 양자 쪽을 계산해 보자. 싱글릿 $|\Psi^-\rangle$ 을 방향 $\hat a, \hat b$ 로 재면

$$E(a,b) = \langle \Psi^-|\,(\hat a\cdot\boldsymbol\sigma)\otimes(\hat b\cdot\boldsymbol\sigma)\,|\Psi^-\rangle = -\cos(\theta_a - \theta_b)$$

이다. 각도를 앨리스 $\{0°,\ 90°\}$, 밥 $\{45°,\ -45°\}$ 로 잡으면

항	각도차	E 값
E(a, b)	−45°	−0.7071
E(a, b′)	+45°	−0.7071
E(a′, b)	+45°	−0.7071
E(a′, b′)	+135°	+0.7071

$$S = \big|(-0.7071) + (-0.7071) + (-0.7071) - (+0.7071)\big| = 4\cdot\tfrac{1}{\sqrt2} = 2\sqrt2 \approx 2.828$$

네 항이 전부 $1/\sqrt2$ 씩 기여하도록 각도를 배치한 것이 요령이고, 이것이 “45°씩 어긋나게”라는 국룰의 내용이다. 광자 편광 실험에서 흔히 보는 $0°/45°$ 와 $22.5°/67.5°$ 조합은 정확히 같은 기하다 — 편광 상관이 $\cos 2\theta$ 로 가므로 각도가 절반이 되고, 대신 마이너스 부호가 붙는 항의 자리가 바뀔 뿐이다.¹

4. 왜 하필 2√2 인가 — 치렐손 한계[편집]

양자역학이 $S$ 를 4까지 못 올리는 이유는 예쁘게 증명된다. 연산자 $S_{\rm op} = A\otimes(B+B') + A'\otimes(B-B')$ 를 두자. 관측량이 $\pm1$ 값을 가지므로 $A^2 = A'^2 = B^2 = B'^2 = \mathbb{1}$ 이고, 앨리스 쪽과 밥 쪽 연산자는 교환한다. 곧바로

$$S_{\rm op}^2 \;=\; 4\,\mathbb{1} \;+\; [A,A']\otimes[B,B']$$

가 나온다. 각 교환자의 작용소 노름은 $\|[A,A']\| \le 2\|A\|\|A'\| = 2$ 로 막히므로 $\|S_{\rm op}^2\| \le 4 + 4 = 8$, 따라서

$$\|S_{\rm op}\| \le 2\sqrt2$$

이다. 이것이 치렐손 한계(1980)다. 등호는 $[A,A']$ 와 $[B,B']$ 가 각각 노름 2를 채울 때, 즉 두 설정이 서로 반교환할 때 달성된다. 앨리스의 $\sigma_z$ 와 $\sigma_x$ 처럼. 각도 45°가 나온 이유가 사실 이거다 — 서로 직교하는 두 측정축.

여기서 흥미로운 질문이 생긴다. 무신호 조건만 요구하면 $S = 4$ 까지 갈 수 있다. 포페스쿠와 로흘리흐(1994)의 가상 장치 “PR 상자”는 $a\cdot b = x \oplus y$ 를 항상 만족시키면서 어느 쪽의 주변 분포도 상대 설정에 의존하지 않는다. 즉 초광속 통신 없이도 양자보다 강한 상관이 논리적으로 가능하다. 자연이 왜 거기까지 안 가고 $2\sqrt2$ 에서 멈췄는지는 아직 완전히 정착된 답이 없으며, 정보 인과율·거시적 국소성·정보 처리의 국소 직교성 같은 후보 원리들이 각각 $2\sqrt2$ 를 재현해 낸다.

무신호 이야기가 나온 김에 오해 하나를 못 박자. 벨 부등식 위반은 “양자역학이 초광속으로 통신한다”는 뜻이 아니다. 앨리스가 무엇을 하든 밥의 축소밀도행렬은 바뀌지 않는다(무통신 정리, 증명은 양자 얽힘에 있다). 상관은 양쪽 결과를 나중에 모아서 비교할 때만 드러나고, 그 비교에는 고전 채널이 필요하며 그 채널은 광속 제한을 받는다. 벨이 죽인 것은 국소성 단독이 아니라 국소성과 실재성의 결합이다.

5. 허점 — 실험이 어려운 진짜 이유[편집]

부등식 자체는 한 줄이지만, “이 실험이 정말 국소 실재론을 배제했는가”를 방어하는 데 50년이 걸렸다.

• 검출 허점(detection / fair-sampling). 검출기가 광자를 놓치면, 실험자가 보는 것은 전체 앙상블이 아니라 “검출된 것들”이라는 편향된 부분집합이다. 숨은 변수가 “언제 검출될지”까지 정해 두면 $S>2$ 를 흉내 낼 수 있다. 최대 얽힘 상태의 CHSH에서는 검출 효율이 약 82.8%를 넘어야 하고, 비최대 얽힘 상태와 에버하르트 부등식을 쓰면 문턱이 2/3 근처까지 내려간다. 이 완화가 광자 실험을 가능하게 만든 결정적 열쇠였다.
• 국소성/통신 허점. 앨리스의 설정 선택과 밥의 결과 기록이 공간꼴 분리되어야 한다. 아스페(1982)는 빠른 스위칭을 썼지만 주기적이라 예측 가능했고, 바이스 등(1998)이 무작위 선택과 공간꼴 분리를 함께 달성했다.
• 자유선택 허점(freedom-of-choice, 측정 독립성). 설정을 고르는 난수가 숨은 변수 $\lambda$ 와 상관되어 있으면 모든 논증이 무너진다. 이걸 완전히 닫을 수는 없다 — 초결정론은 원리적으로 반증 불가능하기 때문이다. 대신 밀어내는 방식으로 대응한다. 우주적 벨 실험은 은하수의 별빛(2017), 나아가 수십억 광년 떨어진 퀘이사의 빛(2018)으로 설정을 골라, 음모가 성립하려면 최소한 그만큼 과거에 준비되어 있었어야 함을 보였다. 2018년 BIG Bell Test 는 10만 명의 사람이 눌러 만든 비트로 설정을 골랐다.
• 우연 일치 시간 허점. 어느 검출 사건과 어느 검출 사건을 한 쌍으로 묶을지의 규칙이 데이터에 의존하면 편향이 생긴다. 사전 고정 시간창으로 막는다.
• 기억 허점. 시행들이 독립 동일분포가 아니라 앞선 시행의 설정·결과를 참조할 수 있다면, 표준 오차막대 계산이 무효가 된다. 이 문제는 아래 통계 절에서 다룬다.

2015년에 세 팀이 검출·국소성 허점을 동시에 닫았다.

실험	방식	결과
델프트 (헨슨 등)	NV 색중심 2개, 1.3 km, 얽힘 교환 기반 event-ready	245 시행에서 S = 2.42 ± 0.20, p ≈ 0.039
빈 (유스티나 등)	고효율 초전도 나노선 검출기 + 광자쌍, 에버하르트형	시행 수가 압도적, p ~ 10⁻³¹ 규모
NIST (샬름 등)	같은 계열의 광자 실험, 독립 구현	p ≪ 10⁻⁶

델프트 방식은 시행률이 극도로 낮은 대신(시간당 몇 건) 검출 허점이 구조적으로 없고, 광자 실험은 시행이 초당 수만 건이라 통계가 압도적이다. 서로 다른 약점을 가진 세 실험이 같은 결론을 낸 것이 이 결과가 받아들여진 이유다.

6. 유한 표본 — p-값을 어떻게 붙이나[편집]

여기가 의외로 까다롭고, 계산과학적으로 가장 재미있는 부분이다.

”$S = 2.42 \pm 0.20$ 이니 2보다 2.1σ 위, 끝”이라고 하면 안 된다. 표준 오차막대는 시행들이 독립 동일분포라는 가정 위에서만 유효한데, 기억 허점을 인정하면 그 가정을 쓸 수 없다. 장치가 앞선 시행들을 기억하고 다음 시행에서 전략을 바꾸는 국소 실재론 모형을 배제해야 하므로, 시행 순서에 적응적인 상대까지 이기는 검정이 필요하다.

표준 처방은 마팅게일이다. $i$ 번째 시행의 CHSH 기여를 $X_i$ 라 하고, 국소 실재론 가정 아래에서는 과거를 전부 조건으로 걸어도 $\mathbb{E}[X_i \mid \mathcal{F}_{i-1}] \le 2$ 임을 보인다(설정 난수가 독립이면 이것이 성립한다). 그러면 $M_n = \sum_{i\le n}(X_i - 2)$ 는 상위마팅게일이고, 증분이 유계이므로 아주마-회프딩 부등식이 곧바로 유효한 꼬리 한계를 준다.

$$\Pr\!\left[\sum_{i\le n} (X_i - 2) \ge t\right] \;\le\; \exp\!\left(-\frac{t^2}{2nc^2}\right)$$

이 값이 곧 p-값의 상계다. 길(2003)이 이 틀을 벨 실험에 정리했고, 이후 예측 기반 비율(PBR) 검정과 비어호스트의 정확 검정이 훨씬 조인 한계를 준다. 델프트 실험이 겨우 245 시행으로 $p = 0.039$ 라는 정직하게 약한 숫자를 보고한 것은 바로 이 보수적 검정을 썼기 때문이다.²

수치 실무자에게 남는 교훈은 명확하다. 비국소성 검정은 통계 검정이지 오차막대 놀이가 아니다. 귀무가설은 “국소 실재론 모형 전체 집합”이라는 거대한 복합가설이고, 그 집합 안에서 최악의 상대를 상대로 유의성을 계산해야 한다.

7. 계산과학에서의 벨 — 다면체와 SDP[편집]

벨 부등식은 사실 볼록기하학 문제다.

고전 쪽은 다면체다. 국소 결정론 전략은 유한 개(설정마다 ±1을 정하는 방법의 수)뿐이고, 임의의 국소 숨은 변수 모형은 그 전략들의 볼록결합이다. 따라서 국소 상관 벡터의 집합은 꼭짓점이 결정론 전략인 볼록 다면체(벨 다면체)이며, 그 면(facet)들이 곧 자명하지 않은 벨 부등식이다. 설정 2개·결과 2개·당사자 2명의 (2,2,2) 시나리오에서는 자명하지 않은 면이 CHSH의 8가지 부호 변형뿐임이 알려져 있다(파인 정리와 함께). 설정이나 결과 수를 조금만 늘리면 면 열거가 폭발해 계산이 감당 불가능해진다.

양자 쪽은 다면체가 아니다. 양자 상관 집합은 볼록하지만 경계가 휘어 있어(치렐손 한계가 그 곡면의 한 조각이다) 유한 개의 부등식으로 못 적는다. 대신 나바스쿠에스-피로니오-아신(2007)의 NPA 계층이 이 집합을 바깥에서 조이는 반정부호 계획법 완화열을 준다. 모멘트 행렬의 양의 반정부호성을 차수 1, 2, … 로 요구해 가면 상계가 단조 감소하고, 계층의 극한이 양자 집합(의 교환 텐서곱 판본)에 수렴한다. 반대로 주어진 상태와 측정에서 CHSH를 최대화하는 문제는 앨리스와 밥의 측정을 번갈아 고정하는 시소 SDP로 하한을 얻는다. 상계와 하한이 만나면 그 값이 답이다. 요컨대 비국소성의 정량화는 볼록 최적화 문제다.

여기서 파생된 실용 기술이 장치 독립(device-independent) 프로토콜이다. 상자 안이 무엇인지 전혀 모른 채 CHSH 값만 보고, 그 값이 2를 넘는 정도로부터 출력에 들어 있는 진짜 무작위성의 하한을 증명할 수 있다. 이 인증된 난수는 난수 생성기의 신뢰 문제를 물리 법칙 수준으로 끌어올린 것이고, 같은 논리가 장치 독립 양자 키 분배로 이어진다. “부등식을 깼다”가 그 자체로 자원이 되는 드문 사례.

마지막으로 양자 시뮬레이터를 짜는 사람에게 실용적인 조언. 국소 숨은 변수 몬테카를로를 짜서 $S$ 를 넘겨 보려는 시도는 디버깅 도구로 훌륭하다. $\lambda$ 를 아무리 영리하게 뽑고 $A(a,\lambda), B(b,\lambda)$ 를 아무리 꼬아도 $2$ 를 못 넘는다. 만약 코드가 2.1을 뱉었다면 비국소성을 발견한 것이 아니라 $A$ 가 $b$ 를 몰래 참조하고 있는 것이다. 실제로 이 자기점검에서 잡히는 버그가 꽤 된다.³

8. 관련 문서[편집]

• 양자 얽힘 · 밀도행렬 · 양자역학
• 국소 실재론 · 숨은 변수 이론 · 양자 키 분배
• 얽힘 엔트로피 · 양자 몬테카를로
• 반정부호 계획법 · 볼록 최적화
• 난수 생성기 · 몬테카를로 방법 · 중요도 표본추출

9. Footnotes[편집]

1. 스핀-1/2 는 방향을 180° 돌리면 결과 부호가 뒤집히지만, 편광자는 90° 돌리면 뒤집힌다. 그래서 “각도”의 물리적 주기가 다르고, 문헌에서 CHSH 최적각으로 $0/90/45/{-45}$ 를 보기도 하고 $0/45/22.5/67.5$ 를 보기도 한다. 같은 실험을 두고 각도가 두 배 차이 나는 표가 돌아다니는 이유가 이것뿐이라, 남의 논문 각도를 그대로 복붙하기 전에 스핀인지 편광인지부터 확인하는 게 좋다. ↩

2. “노벨상급 실험의 p-값이 0.039라고?” 싶겠지만, 이건 실험이 약해서가 아니라 기억 허점까지 막는 가장 보수적인 검정을 썼기 때문이다. 같은 데이터에 독립 동일분포를 가정하면 훨씬 화려한 숫자가 나오지만, 그 숫자는 국소 실재론자를 설득하지 못한다. 물리학에서 5σ를 좋아하는 관습과 이 분야의 문화가 충돌하는 지점이기도 하다. ↩

3. 반대 방향의 유명한 사고도 있다. 양자 회로 시뮬레이터에서 상태벡터 인덱싱을 잘못해 앨리스 큐비트 측정에 밥의 기저가 새어 들어가면 $S$ 가 3을 넘고 4에 육박한다. 그때 “PR 상자를 구현했다”고 기뻐하는 대신 인덱스를 보면 된다. 자연은 아직 4를 준 적이 없다. ↩