(* 지난 번 세미나에서 장회익 선생님의 <양자역학을 어떻게 이해할까?> 8장을 시작하면서 양자역학을 만든 사람들이 양자역학을 어떻게 이해하려 했는가에 대한 이야기가 나왔습니다. 제가 최근에 학회에서 발표한 내용 중에 하이젠베르크의 재해석이 있어서 말씀드렸는데, 관심을 보이시는 분이 계셔서 여기에 일부를 가져옵니다. *)

-------------------------------------------

양자이론과 성향: 하이젠베르크

베르너 하이젠베르크는 1955년부터 1956년까지 영국 세인트앤드류 대학에서 진행된 기퍼드 강연의 제목을 ‘물리학과 철학’으로 정하고 ‘현대물리학의 혁명’이라는 부제를 달았다. 1958년에 출간된 강연록은 열 개의 장으로 이루어져 있는데, 그중 2장의 끝부분에서 그때까지 별로 언급하지 않던 아리스토텔레스의 가능태에 대해 말하기 시작했다(Heisenberg 1958; 이하 [H]로 표기). 

“보어, 크라머스, 슬레이터의 확률파(probability wave)는 어떤 일이 일어날 성향을 의미하는 것이다. 아리스토텔레스 철학의 오래된 개념인 ‘가능태 potentia’의 정량적인 판본이다. 이는 사건에 대한 관념과 실제의 사건 사이에 있는 어떤 것을 끌어들였으며, 이것은 가능성과 실재 사이에 있는 이상한 종류의 물리적 실재이다.”(H:41)

  흔히 확률파라는 용어와 개념은 보른에게서 나온 것으로 여긴다. 1926년 슈뢰딩거가 “고유값문제로서의 양자화” 연작논문에서 파동역학의 형식체계를 발표했다. 1927년 막스 보른이 파동역학을 산란문제에 적용하는 과정에서 파동함수의 절대값 제곱을 대상이 존재할 확률로 해석하자고 제안했다. 그런데 하이젠베르크는 이 개념을 1924년 보어-크라머스-슬레이터(BKS)의 논문에서 비롯한 것으로 서술한다.

1913년 닐스 보어가 제안한 원자모형에서 빛(복사)은 낡은 전자기학으로 서술되었지만, 1923년 겨울 코펜하겐을 방문한 존 슬레이터가 처음 아이디어를 내고 보어와 크라머스가 합세하여 “복사의 양자이론”이 만들어졌다. 이 이론에 따르면, 물질에서 흡수되거나 방출되는 전자기복사는 아인슈타인이 제안한 빛 양자의 형태이지만, 드브로이의 파일럿 파동과 유사하게 맥스웰 전자기학에 따른 전자기장에 이끌린다. 전이가 없을 때도 원자 안에는 원자가 만드는 전자기장이 있으며, 원자가 흡수하거나 방출하는 빛알의 모든 파장이 들어 있다. 그런데 빛알이 흡수되거나 방출되는 확률은 전자기장의 푸리에 성분의 진폭으로부터 정해진다. 전자기장은 가상의 진자로 이루어져 있다. 이 이론에서는 에너지와 운동량이 개별적으로 보존되는 것이 아니라 확률통계적으로만 보존된다. 결과적으로 BKS 이론의 예측을 반증하는 실험 결과를 발터 보테와 한스 가이거가 얻은 뒤에, 이 이론은 사라졌지만, 바로 이 이론에서 확률파라는 개념이 살아남았으며, 이것이 양자역학을 이해하는 데 중요한 역할을 한다는 것이 하이젠베르크의 주장이다.

하이젠베르크에 따르면, 기존의 확률은 지식의 정도를 나타내지만, BKS 이론의 확률파는 어떤 일이 일어날 성향을 나타낸다. 이를 연장하여, 양자역학에서 등장하는 “확률함수는 오직 사건이 일어날 성향과 그 사건에 대한 우리의 지식을 나타낸다.”(H:46)라는 것이 하이젠베르크의 생각이다. 그에 따르면, 

“확률함수는 객체적 요소와 주체적 요소를 결합한다. 확률함수는 잠재성 또는 성향[아리스토텔레스 철학에서의 ‘가능태(pontentia)’]에 관한 서술을 포함한다. 이 서술은 완전히 객체적이며 어느 관찰자에도 의존하지 않는다. 또 확률함수는 계에 대한 우리의 지식에 관한 서술을 포함한다. 이는 물론 다른 관찰자마다 다를 수 있다는 점에서 주관적이다. ... 확률함수는 성향이라는 객체적 요소와 불완전한 지식이라는 주관적 요소를 갖는다.”(H:53-54)

  이안 해킹(Hacking 1975)에 따르면, 확률이론 초기부터 이미 두 가지 서로 구분되는 개념이 ‘확률’이라는 동일한 이름 아래 논의되었다. 하나는 대상적/통계적인 확률로서 이는 곧 인식주체가 대상에 대해 얼마나 알고 있는지와 무관하게 그 본연의 성질이 확률적인 것을 가리키는데, 이 때문에 통계적인 면과 깊이 연관되어 있다. 다른 하나는 인식적인 것으로서 확률이란 다름 아니라 대상에 대해 주체가 가진 정보의 부족함을 말하는 것이다.

하이젠베르크의 논의는 이러한 확률의 이중적 의미 또는 해석에 대해 더 상세한 분석을 시도하지 않은 채 뭉뚱그려진 개념으로 성향과 아리스토텔레스의 가능태에 대해 말하고 있는 것으로 평가되었다. 그래서 쉬모니를 비롯하여 여러 철학자가 하이젠베르크가 말하는 아리스토텔레스의 가능태는 단지 비유에 불과하다고 저평가했다. 또 1958년에 출간된 이 책에서 처음으로 ‘코펜하겐 해석’이란 표현이 나오고 그와 관련하여 보어의 상보성 원리와 불확정성 원리에 대한 논의가 상세하게 나오기 때문에, 양자역학에서의 측정의 문제에 대한 하이젠베르크의 독특한 관점이 제대로 평가받지 못했다(Camilleri 2009).

그러나 하이젠베르크의 텍스트는 더 깊이 음미할 가치가 있다(Jaeger 2017). 텍스트만 보면 확률 개념의 주관주의 해석과 대상주의 해석을 섞어놓은 것처럼 보인다. 그러나 하이젠베르크는 물리학자가 ‘순수 상태’라 부르는 이상적인 경우에는 불완전한 지식이라는 주관적 요소가 무시할 만큼 작기 때문에 성향이라는 객체적 요소만 보아도 좋다고 말한다. 이는 물리학의 언어로 말하면, 통계연산자(밀도행렬) 에서는 대상은 어느 한 상태에 있지만 단지 정확히 어디에 있는지 알 수 없다는 무지의 해석을 적용할 수 있지만, 순수 상태 의 경우에는 주관적 요소를 고려하지 않아도 된다는 것과 같다.

확률파에 대한 논의에서 “‘잠재성’으로부터 ‘현실성’으로의 전이는 관찰의 행위 동안 일어난다.” (H:54)라고 말하지만, 이것은 관찰자라는 사람과 무관하다. 

“잠재성으로부터 현실성으로의 전이는 대상이 측정장치 즉 세계의 나머지 부분과 상호작용하자마자 일어난다. 이는 관찰자의 마음에서 결과를 기록하는 행위와는 연결되지 않는다. 그러나 확률함수의 불연속적 변화는 기록의 행위와 함께 일어난다. 왜냐하면 확률함수의 불연속적 변화 속에 이미지를 갖는 것은 기록의 순간에 일어나는 우리 지식의 불연속적 변화이기 때문이다.”(H:55)

  하이젠베르크가 여기에서 주목하는 것은 단지 양자역학을 어떻게 해석할 것인가 하는 문제가 아니라 양자역학이라는 파격적인 이론이 어떤 새로운 존재론으로 이어질 수 있는가 하는 문제이다. 

“알려진 수학적 도식으로 주어진 실험 상황을 어떻게 나타낼 수 있는지 묻는 대신 다른 질문이 제기되었다. 즉, 수학적 형식체계로 표현될 수 있는 것과 같은 그런 실험적 상황만이 자연에서 생길 수 있다는 것이 참일까? 이것이 실상 참이라고 가정하면 뉴턴 이후 고전 물리학의 기초가 되어 온 개념의 사용에 한계가 있음을 알게 된다.”(H:42)

  BKS 이론의 확률파에 대한 논의는 ‘코펜하겐 해석’에 대한 상세한 설명과 비판에 대한 해명으로 이어지지만, 여기에서 우리가 주목하는 것은 9장 “양자이론과 물질의 구조”에서 말하는 아리스토텔레스의 물질(질료) 개념에 대한 설명이다. 

“물질(질료)은 그 자체로 실재가 아니라 단지 가능성 또는 ‘가능태’일 뿐이다. 그것은 형상을 통해 존재한다. 자연과정에서 아리스토텔레스가 ‘본질’이라 부른 것은 그저 가능성에 불과한 것으로부터 형상을 통해 현실성으로 옮겨간다.”(H:147)

  이것은 물질의 구조에 대한 자연철학적 관념들을 주마간산으로 언급하는 것이 아니다. 하이젠베르크는 양자역학에서 가장 핵심이 되는 ‘상태’를 바로 아리스토텔레스 자연철학의 관념으로 이해할 수 있다고 주장하는 것이다. 

“한 쌍의 복소수가 ‘명제(상태서술)’를 나타낸다면, 그 명제가 참이 되는 자연의 ‘상태’ 또는 ‘상황’이 존재해야 한다. 상보적 명제에 대응하는 ‘상태들’은 바이츠제커가 ‘공존 상태’라 부른 것과 같다. 이 ‘공존’이란 용어가 상황을 올바로 기술한다. ... 이 ‘상태’라는 개념이 양자이론의 존재론에 관한 최초의 정의를 이루게 될 것이다. 이 ‘상태’ 특히 ‘공존하는 상태’라는 단어는 보통의 물질주의 존재론과 너무나 달라서 적절한 용어를 사용하고 있는 것인지 의심하게 된다. 다른 한편 ‘상태’라는 말을 실재가 아니라 어떤 잠재성을 서술한다고 보면 (심지어 ‘상태’라는 말을 ‘잠재성’이라는 용어로 대치해도 좋을 것이다) ‘공존하는 잠재성’이라는 개념이 꽤 그럴듯해진다. 왜냐하면 하나의 잠재성이 다른 잠재성과 연관되거나 겹칠 수 있기 때문이다.”(H:185)

  하이젠베르크는 대체로 과격한 실증주의자로서 현상으로 확인할 수 있는 것만 받아들이려 했으며 소위 코펜하겐 해석을 주창하고 펼친 장본인이라고 평가된다. 그러나 하이젠베르크의 물리철학을 탐구한 물리학자이자 현상학자 퍼트릭 에이던 힐란의 생각은 다르다.

힐란은 관찰가능한 것을 B-관찰가능성과 E-관찰가능성으로 구별한다(Heelan 1965, 2016). 보어의 관점에서 비롯한 B-관찰가능성의 원리는 시간과 공간 속에서 고전적 관념을 통해 일상의 언어로 서술할 수 있어야 비로소 관찰가능한 것이라 규정하는 반면, 아인슈타인의 관점에서 비롯한 E-관찰가능성의 원리는 수학적 형식체계 안에서 서술할 수 있는 것까지 추상적인 의미의 관찰가능성을 인정한다. 1963년 토머스 쿤이 하이젠베르크와 인터뷰하고 남긴 기록을 보면, 하이젠베르크는 실상 그렇게 과격한 실증주의자가 아니었다. 힐란이 보기에, “하이젠베르크가 시작한 ‘관찰가능성’의 추상적 의미에서는 비고전적인 양들도 수학적 형식체계 안에서 관찰가능한 것이 될 수 있으며 비고전적 언어에서 서술적 존재론의 일부가 됨이 인정된다.”(Heelan 2016: 59)

막스 보른 및 파스쿠알 요르단과의 공동저작(삼인작, Dreimännerarbeit)과 하이젠베르크가 단독으로 쓴 1925-6년의 논문들과 당시의 편지 등으로부터 판단하면, 하이젠베르크는 아인슈타인의 직접적 영향 아래 E-관찰가능성의 원리를 추구했으나, 코펜하겐 이론물리연구소에서 보어와 논쟁하면서 보어의 B-관찰가능성을 받아들였다는 것이 힐란의 주장이다. 하이젠베르크가 다시 E-관찰가능성으로 돌아간 계기가 바로 기포드 강연이었다는 것이다. 여기에서 하이젠베르크가 “원자나 기본입자는 그 자체로 실재가 아니다. 원자나 기본입자는 사물 또는 사실의 세계가 아니라 잠재성 또는 가능성의 세계를 이룬다.”(H:186)라고 말하는 것을 성향의 관점에서 재해석한다면, 하이젠베르크도 레드헤드가 B 견해로 분류한 것을 옹호했다고 보는 것이 적절하다.