<양자역학을 어떻게 이해할까?> 8.2절은 "양자역학을 둘러싼 실재성 논란"이라는 제목이 붙어 있습니다. 이와 관련하여 보조적인 참고자료로 제가 이전에 다른 곳에 썼던 글을 그대로 가져왔습니다. (더 상세한 것은 첨부파일을 참고할 수 있습니다.)

----------------------------

(1) 아인슈타인-포돌스키-로젠 논변

1935년에 아인슈타인-포돌스키-로젠은 양자역학의 `코펜하겐 해석'에 반대하여 양자역학의 서술이 불완전하다는 논변을 제시함으로써, 양자역학의 해석과 관련된 메타동역학적 논의의 중요한 주제를 제시했다. 이를 'EPR 논변'이라 부른다. EPR 논변은 이후에 숨은 변수 이론에 관한 폭넓은 논의를 불러 일으켰고, 이를 통해 양자역학의 바탕에 깔려 있는 전제들에 대한 깊이 있는 연구에 중요한 시발점이 되었다.

물리적 실재에 대한 양자역학적 서술이 완전하다고 여겨질 수 없다는 것을 주장하는 EPR 논변은 다음과 같이 구성된다.

• (C) [완전한 이론의 필요조건] 물리적 실재의 각 요소에 대하여 물리이론에 대응 부분이 있어야 한다.
• (R) [물리량의 실재성] 어느 계를 어떤 방식으로든 교란하지 않고 어떤 물리량의 값을 확정적으로(즉, 확률 1로) 예측할 수 있다면, 이 물리량에 대응하는 물리적 실재의 요소가 존재한다.
• (QM) [양자역학] 표준적인 양자역학의 해석(디락-폰노이만)에 따르면, 계가 물리량 \(A\)의 고유상태에 있지 않다면, 물리량 \(A\)가 특정한 값을 가지고 있다고 말할 수 없다. 예를 들어, 입자의 운동량을 알게 되면, 그 위치는 물리적 실재가 아니다.
• (Alt) [양자택일] (i) 양자 상태에 의한 실재의 양자역학적 서술은 불완전하거나, 아니면 (ii) 서로 가환이 아닌 힐버트 공간의 연산자로 표현되는 물리량들은 동시에 실재가 될 수 없다. 왜냐하면, 이 둘이 모두 참이라면, 가환이 아닌 연산자로 나타내지는 물리량들의 값이 모두 양자 상태로부터 확률 1로 예측될 수 있기 때문에, (R)에 따라 그것들이 모두 실재라는 결론을 얻는데, 이는 (QM)과 배치되기 때문이다.
• (G) [사고실험] EPR 사고실험에서처럼, 서로 가환이 아닌 연산자로 나타내는 두 물리량을 모두 확률 1로 예측할 수 있으므로, (R)에 따라  두 물리량은 동시에 물리적 실재이다.
• (IC) [양자역학의 불완전성] 그러므로  (Alt)의 양자택일 중 (ii)가 거짓이므로, (i)이 참이다. 즉, 물리적 실재에 대한 양자역학적 서술은 불완전하다.

여기에서 각 대표기호는 (C)=completeness, (R)=reality, (QM)=quantum mechanics, (Alt)=alternative, (G)=Gedankenexperiment, (IC)=incompleness를 약한 것이다.

(G)의 논변과정에서 사고실험이 구성되는 것은 양자역학적 상태를 두 가지 이상의 꼴로 쓸 수 있기 때문이다. 즉, $$\begin{align} \Psi(x, y) &= \sum_n \psi_n (y) u_n (x) \\ &= \sum_s \varphi_s (y) v_s (x)  \end{align}$$ 데이비드 봄은 이를 스핀을 이용하여 재구성했다. 스핀 1/2인 두 입자의 복합계가 스핀 한짝(singlet) 상태에 있으면, 그 상태벡터는 $$\begin{align} |\Psi\rangle &= \frac{1}{\sqrt2} |\uparrow\rangle_1 \otimes |\downarrow\rangle_2 -  \frac{1}{\sqrt2} |\downarrow\rangle_1 \otimes |\uparrow\rangle_2 \\  &= \frac{1}{\sqrt2} |\rightarrow\rangle_1 \otimes |\leftarrow\rangle_2 -   \frac{1}{\sqrt2} |\leftarrow\rangle_1 \otimes |\rightarrow\rangle_2  \end{align}$$로 나타낼 수 있다. 

여기에서 $$ |\uparrow\rangle=|{\bf n}_z,+\rangle  \ , \quad   |\downarrow\rangle=|{\bf n}_z,-\rangle  \ , \quad    |\rightarrow\rangle=|{\bf n}_x,+\rangle  \ , \quad
   |\leftarrow\rangle=|{\bf n}_x,-\rangle $$와 같은 약호를 도입했다.

두 부분계(입자)가 충분히 멀리 떨어져서 서로 상호작용을 할 수 없다고 하자.(이를 [국소성의 요건] (L)이라 부르자. 이는 사고실험 (G)의 암묵적 가정에 해당한다.) 그러면, 한 쪽(예를 들어 입자 1)에 대한 물리량 $S_z ^{(1)}$ 또는 $S_x^{(1)}$를 측정하면, 그 측정결과를 바탕으로 다른 쪽(입자 2)을 교란하지 않고 $S_z ^{(2)}$ 또는 $S_x^{(2)}$의 값을 모두 확률 1로 예측할 수 있다.

여기에서 유의할 점은 EPR 논변에서는 '국소성 요건' (L)이 명시적으로는 나타나지 않는다는 것이다. 이는 굳이 국소성이라고 부를 필요도 없이 서로 더 이상 상호작용을 하지 않는다는 사고실험상의 정의에 해당한다.("[한쪽 계에] 측정을 수행할 때, 두 계가 이제는 상호작용을 하지 않으므로 첫째 계에 일어날 수 있는 어떤 사건 때문에 둘째 계에서 일어날 수 있는 진정한 변화는 있을 수 없다.") 그런 점에서 국소성 요건 (L)은 이론의 완전성 요건 (C)나 물리량의 실재성 요건 (R)와 같은 수준의 가정이 아니라, 사고실험 (G)에서 동원되는 보조가정에 더 가깝다고 할 수 있으며, EPR 논변에서는 의심의 여지가 없는 것이라 할 수 있다.

국소성 요건을 의심한다면, 각운동량 보존이라든가 계가 스핀 한짝 상태에 남아 있는다는 것 등도 같은 수준에서 의심해 보아야 할 것이다. [여기에서 스핀 한짝 상태는 예를 들어 빛알의 편광상태를 고려하면, 다른 식으로 쓸 수 있으며, EPR의 일반적인 표현에서 보듯이 스핀 1/2인 두 입자라는 것은 논변에서 신경쓰지 않아도 되는 가정이다. 예를 들어, (G)에서 파울리의  배타율이 어떤 의미를 갖는지 등은 논외의 문제이다.] 오히려 EPR 논변에서 (G)의 핵심은 양자역학의 형식이론체계에서는 같은 상태를 둘 이상의 다른 조합으로 쓰는 것이 허용된다는 데 있다.

이제 EPR 논변을 인정하고 그 결론을 수긍한다면, 물리적 실재를 기술하기 위해서는 `불완전한' 양자이론을 완전하게 하는 다음 단계의 이론이  자연스럽게 요청된다.  따라서 EPR 논변은 자연스럽게 다음과 같은 정리를 주장하는 것에 해당한다.

EPR 정리: 만일 양자역학의 예측이 (멀리 떨어져 있는 대상들이 상관관계 속에 있는 것으로 구성되는 계에 대해서도) 옳고, 물리적 실재가 국소적인 (또는 비분리적인) 방식으로 서술될 수 있다면, 양자역학은 필연적으로 불완전하며, 자연에 양자역학에서 다루어지지 않은 모종의 '실재의 요소'가 존재한다. [If the predictions of quantum mechanics are correct (even for systems made of remote correlated particles) and if physical reality can be described in a local (or separable) way, then quantum mechanics is necessarily incomplete: some “elements of reality5” exist in Nature that are ignored by this theory. (Laloë 2019, p. 50)]

(2) 벨의 정리와 물리량의 실재성 및 국소성의 문제

1960년대 중반에 존 스튜어트 벨(John Stuart Bell)은 숨은변수이론에 대한 매우 중요한 정리를 유도했다. 벨의 정리는 상대성이론에서 요구하는 `국소성'과 물리량이 관측과 무관하게 실재한다는 `실재성'을 가정하고, 양자역학적 계산이 우리에게 알려져 있지 않은 숨은 변수에서 비롯된다고 가정하면, 특수한 부등식을 유도할 수 있다는 것이다. 그런데 양자역학이 예측하는 결과 자체는 벨의 부등식을 만족하지 않기 때문에, 벨의 부등식과 양자역학은 양립할 수 없다. 따라서, 벨의 정리는 곧 양자역학에서 숨은 변수 이론이 허용되지 않음을 증명하는 일종의 금지정리이다.

흥미로운 점은 벨의 정리가 금지정리 이상이라는 사실이다. 실험 등의 방법으로 벨의 부등식이 성립하는지 여부를 확인할 수 있다면, 양자역학이 불완전한 이론이고 아직 우리가 제대로 알지 못하는
숨은변수이론에서 비롯되는 것인지 아닌지를 알 수 있다는 결론을 얻는다.

1970년대 이래 벨의 부등식이 성립하는지 여부를 확인하기 위한 실험이 활발하게 이루어졌고, 그 결과는 양자역학적 예측을 사실상 확증하는 것이었다. 실험은 대개 원자증기에 레이저를 쏘아서 원자를 들뜨게 한 뒤에 이 들뜬 원자가 방출하는 원자 캐스캐이드(atomic cascade)를 이용하는 것이었다. 1970년대에는 실험결과도 벨의 부등식이 성립한다는 쪽과 그렇지 않다는 쪽이팽팽하게 맞서는 편이었지만, 1982년에 프랑스의 알랭 아스페 등이 결정적이라 할 만한 결과를 얻었다. 그에 따르면, 실험결과는 양자역학의 예측결과와 상당히 좋은 오차 내에서 잘 맞았으며, 벨의 부등식은 실험과 배치됨이 밝혀졌다. 구체적으로 다음과 같은 실험결과를 얻었다. $${\cal B}_{\rm Bell}\le 2 \ , \quad
{\cal B}_{\rm exp} = 2.6970 \pm 0.015 \ , \quad {\cal B}_{\rm QM} = 2.70 \pm 0.05$$

벨의 정리는 숨은변수이론을 추구하는 연구프로그램의 어려움을 잘 보여주었다. 그러나 벨의 정리와벨 부등식 실험에 대한 메타동역학적 논의는 매우 조심스럽게 다루어야 하는 문제이다. 대개의 경우 벨의 부등식의 실험상의 위배는 결정론적인 국소 실재론이 가능하지 않음을 밝힌 것으로 간주한다. 여기에서 결정론적(deterministic)이란 말은 대상이 이미 물리량의 값을 가지고 있다가 그것이 측정과정에서 나타난다는 가정이며, 우리의 용어로 말하면 이는 물리량의 실재성에 해당한다. 숨은변수이론이 모범으로 삼아 추구하던 것 중 하나가 바로 통계역학에서의 성공이며, 이는 고전역학에서 비롯된 물리량의 실재성이란 관념을 얼마나 고수할 수 있을까라는 문제와 통한다. 따라서 확률론적(stochastic)인 숨은변수는 그리 매력적인 대안이 아닌 것으로 보이며, 실험결과에 적헙하게 수정할 수 있는 가정은 국소성, 즉 빛의 속도로 갈 수 없는 간격에 있다면 원격작용이 허용되지 않는다는 가정을 수정해야 한다는 것이 CIQM을 비롯한 주류 해석이다.

그러나 SIQM에서 볼 때, 이는 양자동역학이라는 하나의 동역학에 이와 직접 관련 없는 상대성이론(즉, $L$유형의 서술배위공간)을 덧붙이고, 양자동역학 안의 문제의 원인을 밖에서 찾는 것이기 때문에, 적절한 대답이 될 수 없다. 상대성이론 또는 $L$유형의 서술배위공간이 별도로 실험적으로 그리고 이론적으로 정당화되었다면, 오히려 상대성이론과 어떻게 평화적으로 공존할 수 있을지를 찾아야
할 것이며, 상대성이론과 배치되는 비국소적 상호작용은 양자역학의 틀 안에서 도무지 해결책을 찾을 수 없을 때에야 비로소 추구해 볼 방법이 될 것이다. SIQM에서는 국소성을 부정하는 것보다 물리량의 실재성에 대한 개념을 수정하는 것이 벨의 정리를 더 잘 이해하는 노선이라 본다. 물리량의 실재성이라는 관념 자체가 고전동역학에서 비롯된 것인 만큼, 새로운 동역학으로서의 양자동역학이 이 관념에 대해 새로이 말하는 바에 허심탄회하게 귀기울이자는 것이다. 새로운 이론을 낡은 관념으로 평가하는 것은 부적절하다.

벨의 정리에서 더 심각한 다른 가정(여러 물리량이 동시에 실재한다는 가정)과 달리, 국소성에 대한
가정 없이도 벨의 부등식을 유도할 수 있다면, 벨의 부등식의 실험적 실패로부터 비국소성을 유추하는 것은 부적절할 뿐더러 올바르지 못한 결론이라 할 것이다.

(3) 벨의 정리

논의를 분명하게 하기 위해 먼저 벨의 정리를 일반적이면서 명료한 형태로 확인하는 과정이 필요하다. 벨의 정리에서 논의하는 계는 전형적으로 스핀 한짝 상태에 있다가 서로 반대방향으로 붕괴되는 두 상태 두 입자 계이다. 두 입자에 대해 각각 물리량 \({\bf A}\), \({\bf B}\)를 고려하되, 여기에 조정변수(parameter) \(\alpha\), \(\beta\)가 있다고 하자.

가장 편리한 경우는 두 물리량의 측정값 \(a\), \(b\)가 두 값 중 하나가 되는 경우이며, 크기를 적절히 맞추면, 일반성을 잃지 않고 $$ a_\alpha=\pm 1 \ , \quad b_\beta=\pm 1 $$이라 할 수 있다. 더 일반적인 경우를 위해서 $$ |a_\alpha|\le 1 \ , \quad |b_\beta|\le 1 $$인 경우에도 벨이 얻은 부등식을 유도할 수 있다.

이제 두 물리량 \({\bf A}\), \({\bf B}\)의 겹침 기대값(joint average)을 엇물림(correlation)이라 정의하자. 즉, $$\xi(\alpha, \beta)=\langle a_\alpha b_\beta\rangle$$이고, 이 때의 기대값은 우리에게 알려져 있지 않은 통계적 변수, 즉 숨은 변수에 대한 평균이다. 이 기대값은 적절히 선택된 콜모고로프 확률공간 $(\Lambda, \Sigma(\Lambda),\rho)$에서 잘 정의된다고 하자. 이 확률공간에서
확률변수가 \(\lambda\)이고, 확률밀도함수가 \(\rho(\lambda)\)라면, $$\xi(\alpha, \beta)=\langle a_\alpha b_\beta\rangle  =\int_\Lambda A_\alpha(\lambda)B_\beta(\lambda)\rho(\lambda)\mathrm{d}\lambda $$가 된다. 

이 때, 다음과 같이 정의된 양을 생각하자. $${\cal B}:= |\xi(\alpha,\beta)-\xi(\alpha,\beta')|
     +|\xi(\alpha',\beta)+\xi(\alpha',\beta')| $$숨은 확률변수의 기대값에 대한 성질과 두 물리량의 크기의 상한으로부터 $${\cal B} \le 2$$와 같은 부등식을 얻을 수 있다. 더 정확하게 말하면, 이 부등식은 벨이 유도했던 부등식과 같은 형태는 아니고, 이를 더 확장한 CHSH 부등식(Clauser-Horne-Shimony-Holt)이다. 그러나 내용면에서 CHSH 부등식은 벨 부등식과 사실상 동등하다.

그런데 양자역학에 의거하여 \({\cal B}\)를 계산해 보면,  $${\cal B}_{\rm QM} > 2$$인 상태가 존재할 수 있다. 벨에 따르면, 이 부등식을 얻기 위한 ``필요 불가결한 가정은 입자 2에 대한 결과 \(b_\beta\)가 입자 1에 대한 자석(즉, 측정장치)의 세팅 \(\alpha\)에 의존하지 않으며, 마찬가지로 입자 1에 대한 결과 \(a_\alpha\)가 입자 2에 대한 세팅 \(\beta\)에 의존하지 않는다는 것이다."

그러나 ``양자역학의 통계적 예측이 분리가능한 사전결정와 양립하지 않는 양자역학적 상태가 적어도 하나는 존재''하므로, 다음과 같은 정리를 얻을 수 있다.

(벨의 정리 1) : 통계적 예측을 바꾸지 않고 개별 측정의 결과를 결정하기 위해 양자역학에 조정변수를 덧붙이는 이론에서는 한 측정 장치의 세팅이 아무리 멀리 떨어져 있더라도 다른 장치의 눈금에 영향을 줄 수 있는 메카니즘이 있어야 한다.

이 주장에 대한 따름정리로서 숨은변수이론에 대한 다음과 같은 금지정리를 얻을 수 있다. 앞에서 말한 것처럼, 숨은변수이론이란 ``상태 벡터와 함께 덧붙여지는 변수(숨은 변수)들의  값을 줌으로써, 개개의 측정에 대해 (고전역학에서처럼) 정확한 결과를 결정할 수 있게끔 하는 그런 변수들이 있어서, 양자역학적 상태를 이 변수들로 규정되는 상태들의 통계적 앙상블로 간주할 수 있는" 이론을 가리킨다.

벨의 부등식을 유도하기 위한 전제가 (1) 숨은 변수를 통해 물리량의 값이 측정에 앞서 미리 정해져 있으며, (2) 충분히 멀리 떨어져 있는 두 부분계에 대하여, 한 계에 대한 측정이 다른 계에 영향을 줄 수 없다는 것이라면, 양자역학이 벨의 부등식과 양립하지 않으며, 실험결과는 양자역학의 예측과 잘 들어맞는다는 사실로부터 다음과 같은 금지정리를 얻는다.

(벨의 정리 2) : 결정론적인 국소 실재론(deterministic local realism)에 입각한 숨은변수이론은 가능하지 않다.

[그림 출처: Laloë (2019), p. 84]

이 그림으로 연결되는 실험적 세팅은 다음과 같습니다.

[그림 출처: Laloë (2019), p. 82]

이 그림을 더 알기 쉽게 소개한 것이 아래 그림입니다.

[그림 출처: N.D. Mermin, “Is the moon there when nobody looks? Reality and the quantum
theory”, Phys. Today 38, 38–47 (April 1985).]