시지프스님의 질문은 양자역학에 대한 숨은 변수 이론 접근과 매우 가까운 것 같습니다. 제가 이전에 쓴 논문의 내용 일부를 그대로 가져왔습니다. 한번 살펴보시기 바랍니다.

----------------------------------

양자역학은 처음 등장할 때부터 근본적으로 확률적 예측밖에 할 수 없다는 점에서 여러 사람들이 불만을 토로했다. 1932년 너이만 야노시(폰노이만)는 <양자역학의 수학적 기초>에서 소위 분산 없는 상태가 있을 수 없음을 증명함으로써 양자역학과 논리적으로 연결된 숨은변수 이론이 존재하지 않음을 증명했다.

von Neumann, J. (1932) Mathematische Grundlage der Quantenmechanik. Springer; von Neumann, J. (1955) Mathematical Foundation of Quantum Mechanics. Princeton University Press.

폰노이만은 양자역학에 나타나는 측정결과의 확률적 서술이 어디에서 비롯된 것인지 묻고 이에 대한 답변으로 다음 두 경우를 상정한다.

(I.) 개별계들에 대하여 추가적인 조정변수들을 알 수 없는 경우: 만일 추가적인 조정변수들을 정확히 알 수 있다면 측정결과를 정확히 예측할 수 있고 양자역학적 분산은 사라질 것이다.
(II.) 모든 개별계들이 동일한 상태에 있으며, 별개의 추가적 조정변수가 없으며, 자연의 법칙이 인과적이지 않은 경우: 측정결과를 정확히 예측할 수 없는 이유는 우리의 지식 부족 때문이 아니라 자연이 그 자체로 원래 그렇기 때문이다.

(I.)의 경우에서 언급된 추가적 조정변수는 양자역학이라는 현재의 이론에서 드러나 있지 않기 때문에, 폰노이만은 이를 ‘숨은 변수(verborgener Parameter)’라 불렀다. 이와 같이 숨은변수를 도입하여 양자역학의 개념적 기초를 논의하는 접근이 숨은 변수 이론이다. 숨은 변수 이론의 주된 관심은 “상태벡터와 함께 덧붙여지는 변수(숨은 변수)들의 값을 주면, 개개의 측정에 대한 결과를 정확하게 결정할 수 있게 하는 그런 변수들이 있어서, 양자역학적 상태를 이 변수들로 규정되는 상태들의 통계적 앙상블로 간주할 수 있는가 여부”였다.

Bell, J.S. (1966). “On the problem of hidden variables in quantum mechanics”, Rev. Mod. Phys. 38: 447-52 (esp. p. 448); reprinted in J.S. Bell (1987). Speakable and Unspeakable in Quantum Mechanics. Cambridge University Press.

이 잘 정의된 가상적 상태를 ‘분산 없는(Streuungsloss, dispersion-free) 상태’라 부른다. 만일 개개의 측정 결과가 정확하게 결정된다면 확률서술이 불필요하게 되고, 물리량 $R$에 대하여 기대값(Erwartungswerte) $E(R)$은
$$ E([R-E(R)]^2 ) = E(R^2) - [E(R)]^2 =0$$
이라는 조건을 충족시켜야 하기 때문이다.
구체적으로, 폰노이만이 숨은 변수 없음을 증명하기 위해 세운 전제는 다음과 같다.

A’. 임의의 물리량 $R$이 음의 값을 가질 수 없다면 $E(R)\ge 0$ 이어야 한다.
B’. 임의의 물리량 $R, S, \cdots$과 임의의 실수 $a, b, \cdots$에 대하여 다음 등식이 성립해야 한다.
$$ E(aR+bS + \cdots ) = a E(R) + b E(S) +\cdots $$
양자역학의 수학적 서술에서는 모든 물리량에 힐버트 공간의 자기수반(에르미트) 연산자가 대응하며, 상태는 힐버트 공간의 벡터에 대응한다. 양자역학의 대수적 구조에서는 다음 규칙이 성립한다.

I: 물리량 $R$이 연산자 $\hat{R}$로 표현된다면, 물리량 $f(R)$은 연산자 $f(\hat{R})$로 표현된다.
II: 물리량 $R, S, \cdots$이 연산자 $\hat{R}, \hat{S}, \cdots$ 로 표현된다면, 물리량 $R+S+\cdots$은 연산자 $\hat{R}+\hat{S}+\cdots$로 표현된다. (물리량 $R+S+\cdots$이 동시에 측정가능하다는 가정은 필요하지 않다.)

폰노이만은 이 전제들을 충족하는 가장 일반적인 기대값 함수가
$$ E(R) = Tr (\hat{D} \hat{R})$$
로 주어짐을 증명했다. 여기에서 $\hat{R}$은 물리량 을 나타내는 에르미트 연산자이며, $\hat{D}$는 통계연산자 또는 상태연산자로서 자국 1인 양의 자기수반 자국류 연산자이고, $Tr$는 대각합(trace)이다. 순수상태인 경우에는 상태연산자가 $\hat{D}=P_{\phi}$와 같이 사영연산자로 주어지므로
$$ E(R) = Tr (\hat{D}\hat{R})=(\hat{R}\phi,\phi)$$
가 된다.
따라서 A’, B’, I, II를 전제하면서 양자역학의 힐버트 공간 정식화를 유지하고자 한다면,
$$E(R^2) = [E(R)]^2 $$
를 충족시키는 기대값 함수는 존재하지 않음을 보일 수 있다. 즉 힐버트 공간 정식화에서 숨은변수들의 분산없는 상태는 존재할 수 없다. 즉 통계역학의 경우처럼 더 기본적인 이론의 확률적 서술의 결과로 양자역학이 나타난 것이 아니다.
폰노이만은 이 증명을 기반으로 양자역학의 힐버트 공간 정식화에서 드러나는 확률적 서술은 불가피하며 인과율을 거론할 수 없다는 결론을 내렸다.

“현재로서는 자연 속의 인과율에 관한 어떤 논의도 계속할 이유가 없다. 어떤 경험도 인과율의 존재를 지지하지 않는다. 거시적 경험은 원리의 문제로서 다루어질 수 없기 때문이다. 기본 과정들에 관한 우리의 경험들과 상통하는 알려진 유일한 이론인 양자역학이 이를 반박하기 때문이다.” von Neumann (1932) S. 173; von Neumann (1955) p. 328.


1966년 존 스튜어트 벨이 “양자역학의 숨은 변수 문제”라는 제목으로 폰노이만의 금지정리를 다시 살펴보기 전까지 폰노이만의 영향력은 막강했고, 폰노이만의 증명이 틀렸다고 생각한 사람은 거의 없었다. 벨의 논의는 정확히 폰노이만의 증명에 담긴 ‘오류'를 향해 있다.
벨에 따르면, 폰노이만의 증명 과정에서 가장 핵심적인 가정은 “임의의 두 에르미트 연산자의 실수 선형 결합은 하나의 관측가능량을 나타내며, 기대값의 선형 결합은 선형 결합의 기대값과 같다”는 것이다.

Bell (1966) pp. 448-449.

벨은 폰노이만이 제시한 위의 전제들 중에서 특히 B’에 반대했다. 얼핏 보면 기대값 함수의 선형성을 요구하는 것이 합리적인 듯 보이지만, 서로 가환이 아닌 연산자들로 표현되는 물리량들을 고려하면 그러한 전제가 부당함을 알 수 있다는 것이다. 즉 그 연산자들의 합의 기대값이 기대값들의 합으로 주어지는 것은 II와 같은 양자역학의 경우에 특별하게 성립하는 것이다. 이를 가상적인 분산 없는 상태들에 대해서도 성립한다고 가정해야 할 이유가 없다는 것이 벨의 주장이었다.

이후 벨은 더 강한 입장으로 나아가서, “폰노이만의 ‘매우 일반적이고 그럴듯한 가설들’은 사실 말이 되지 않는다.”라고 비판했다.

Bell, J.S. (1982). “On the impossible pilot wave”. Foundations of Physics, 12, 989-999.

심지어 나중에는 한 인터뷰에서 “폰노이만의 증명은 엇나간 것이 아니라 엉터리입니다. 단지 틀린 게 아니라 어리석습니다.”라고 말하기도 했다.

Bell, J.S. (1988). Interview in Omni, May 1988, p. 88.

그러나 폰노이만의 명성과 권위는 실로 대단한 것이어서 벨의 논문이 나오기까지 사실상 아무도 폰노이만의 증명이 잘못된 것이라고 생각하지 않았다. 벨의 논의를 중심으로 폰노이만의 불가능성 증명은 폰노이만의 오류로 여겨져 왔지만, 최근에 이에 반대하는 견해가 생겨나기 시작했다.

Bub, J. (2010) “Von Neumann’s no didden variables proof: a re-appraisal”, Foundations of Physics 40: 1333-1340; Dieks, D. (2017). “Von Neumann’s impossibility proof: Mathematics in the service of rherotics”, Stud. Hist. Phil. Mod. Phys. 60: 136-148.