하이젠베르크와 그레테 헤르만의 대화

베르너 하이젠베르크(Werner Heisenberg 1901‒1976)의 <부분과 전체: 원자물리학을 둘러싼 대화>의 10장에는 “양자역학과 칸트 철학”이라는 제목이 붙어 있다. 하이젠베르크는 라이프치히에 있을 때를 회상하면서 다음과 같이 적고 있다.     

“젊은 여성 철학자 그레테 헤르만이 원자물리학자들과 철학적 토론을 하기 위해 라이프치히에 왔다. 그레테 헤르만은 괴팅겐 철학자 넬손 학단에서 공부하고 연구한 철학자로 칸트철학에 정통했으며, 19세기 초 칸트철학을 해석했던 철학자이자 자연학자인 프리스의 사상에도 조예가 깊었다. 프리스 학파와 넬손 학단은 철학적 숙고가 현대 수학이 요구하는 정도의 엄밀성을 갖춰야 한다고 주장했다. 그레테 헤르만은 칸트의 인과율이 결코 흔들릴 수 없는 것임을 엄밀하게 증명할 수 있다고 믿었다. 그러나 새로운 양자역학은 이런 인과율을 의문시했으므로, 이 젊은 여성 철학자는 단호하게 자신의 논지를 밀어붙이고자 했다.”

그레테 헤르만(1901-1984).


하이젠베르크는 두 번이나 ‘젊은 여성 철학자’라고 적었지만, 그레테 헤르만(Grete Hermann, 1901‒1984)은 하이젠베르크보다 오히려 몇 달 빨리 태어났고, 1925년에 괴팅겐 대학에서 에미 뇌터의 지도 아래 순수수학 전공으로 박사학위를 받았을 뿐 아니라, 이 만남에 앞서서 이미 양자역학의 숨은 변수 문제를 정확히 짚어내고 양자역학의 개념적 기초에 관련된 핵심을 관통하는 논문을 완성한 수학자-물리학자였다. 

1932년 너이만 야노시(폰노이만)는 <양자역학의 수학적 기초 Mathematische Grundlagen der Quantenmechanik> 에서 양자역학과 논리적으로 연결된 숨은 변수 이론이 존재하지 않음을 증명했다. 양자역학의 기묘한 미결정성과 예측 불가능성이 어쩌면 아직 구성되지 않은 더 근본적인 이론의 확률 계산의 결과일 수도 있다는 기대가 깨진 것이다. 1966년 존 스튜어트 벨이 “양자역학의 숨은 변수 문제”라는 제목의 논문에서 폰노이만의 금지 정리를 다시 살펴보기 전까지 폰노이만의 영향력은 막강했고, 폰노이만의 증명이 틀렸다고 생각한 사람은 없었다. 

폰노이만의 <양자역학의 수학적 기초 Mathematische Grundlagen der Quantenmechanik> (1932) 표지


그레테는 1933년에 “결정론과 양자역학 Determinismus und Quantenmechanik” 에서 폰노이만의 이 금지 정리가 틀렸음을 밝혔다. 그러나 그 업적은 오랫동안 감추어져 있었다. 1935년에 <나투어샤프텐 Naturwissenschaften>에 “양자역학의 자연철학적 기초 Die naturphilosophischen Grundlagen der Quantenmechanik”라는 제목으로 4쪽짜리 요약문이 게재되긴 했지만, 거기에는 숨은 변수 이론의 문제가 생략되어 있었다. 1933년의 논문은 아주 최근에야 발견되었다.

1963년에 과학사학자 토머스 쿤은 칼 바이츠제커와 인터뷰를 했다. 그 내용 중에 1934년 라이프치히에 방문한 그레테와 만나기 전에 그레테가 보어와 하이젠베르크에게 논문초고를 우송했다는 말이 나온다. 그러나 그 논문 초고는 보어 문서 보관소나 하이젠베르크 문서 보관소 어디에서도 찾을 수 없었다. 그러다가 2012년 그레테에 대한 워크숍이 열렸고, 코펜하겐에 있던 구스타프 헤크만이 1933년 12월에 그레테에게 보낸 편지가 발표되었다. 이 편지에 따르면, 그레 테가 코펜하겐으로 보내온 논문 초고를 보어와 하이젠베르크와 바이츠제커 등 여러 사람들이 진지하게 논의를 했고, 하이젠베르크는 헤르만이 물리학을 더 배워야 할 것으로 보이지만 이 논문 초고에서 지적한 사항은 대단히 심각하고 매우 중요하다고 평가하면서 바이츠제커와 공동으로 대응 논문을 쓸 계획도 세웠다. 

Naturwissenschaften(1935)에 실린 그레테 헤르만의 논문 “양자역학의 자연철학적 기초”


과학철학자 귀도 바치아갈루피는 이 편지를 통해 1933년에 그레테가 쓴 논문 초고가 매우 중요하다고 판단하고 이를 추적하면서, 어쩌면 영국의 디랙에게도 이 초고를 보냈을지 모른다고 생각했다. 아니나 다를까 케임브리지 대학 처칠 칼리지의 디랙 문서 보관소를 샅샅이 살펴보니 다행히 그레테가 디랙에게 보낸 편지와 거기에 동봉된 논문 초고가 남아 있었다. 이렇게 하여 1933년 그레테의 논문 초고는 2016년에야 세상의 빛을 보게 되었다.

이 논문 초고의 핵심적인 질문은 다음과 같다. “양자역학의 여러 주창자들이 주장하듯이 어떤 특정의 물리적 측정의 결과는 원리적으로 예측 불가능하다는 것이 양자역학의 필연적인 정리 중 하나인가, 아니면 가능한 물리적 경험의 설명을 위해 양자이론의 가치에 흠집을 전혀 내지 않고 이 이론으로부터 그러한 주장을 떼어낼 수 있는가?” 그레테는 이 논문 초고에서 후자가 가능함을 설득력 있게 논증하고 있다. 

그레테가 양자역학의 자연철학적 기초로서 다루는 핵심 개념은 예측 가능성의 한계이다. 인과율과 예측 가능성의 문제를 입자-파동 이중성 실험들과 불확정성 관계를 통해 고찰한 뒤에 파동함수의 확률 해석을 다룬다. 양자역학에서 확률이 필연적으로 나타난다 해도 실상 더 근본적인 이론이 있고 그 하부의 이론에 대한 통계적 처리를 통해 확률이 나오는 것이라면, 양자역학이 겉보기에 드러내는 인과율과 예측 가능성에 심각한 개념적 난점을 해결할 수 있다. 이것이 소위 숨은 변수의 문제이다. 폰노이만이 <양자역학의 수학적 기초>에서 이 숨은 변수 이론이 가능하지 않음을 증명한 것이 이후 양자역학의 개념적 전개에서 결정적인 역할을 했다. 양자역학이 완결된 이론이고 더 하부의 이론이 있는 게 아니라는 함축을 지니기 때문이다. 그러나 이는 인식론적으로 심각한 위기 상황이다. 양자역학에 내재해 있는 불확정성 또는 미결정성과 여기에서 비롯된 예측 불가능성과 인과율에 대한 도전이 도무지 피할 수 없는 것이라면, 우리가 자연과학 특히 물리학에 기반을 두고 근원적인 사유를 할 수 없다는 의미일 수도 있다. 

바로 이 대목에서 그레테가 주목한 것이 폰노이만 증명의 오류 가능성이다. 폰노이만의 증명이 옳지 않다면 아직 숨은 변수 이론을 통해 예측 가능성과 인과율을 살릴 가능성이 남아 있는 것이다. 그레테가 폰노이만의 증명을 세밀하게 검토한 결과, 놀랍게도 그 증명은 가정해서는 안 되는 가정을 암묵적으로 포함시켰기 때문에 설령 그 자체로 잘못된 증명은 아니라 해도 하나의 정리로서는 근본적인 어려움을 안고 있었다. 물론 그렇다고 해도 19세기 물리학을 풍미한 라플라스의 결정론이 유지될 수 있다는 것은 아니다. 그레테는 이 상황을 양자역학의 상대적 특성을 통해 해결하려 했다. 보어에 따르면, 양자역학은 대응원리와 상보성원리에 기반을 두어야 하며, 상보성 서술은 필연적이다. 그런데 그레테는 당시의 물리학자들과 확연하게 구별되는 관점을 제시했다. 이 상보성이라는 것은 가령 입자와 파동의 상보성 같은 것에 국한되는 물리적 개념이 아니다. 그것은 오히려 자연을 서술하는 방식에서 고전역학적 서술과 양자역학적 서술이 필연적으로 함께 있어야 함을 의미한다. 여기에서 고전역학적 서술이라는 것을 단순히 고전역학의 개념과 수학적 언어로 서술한다는 의미가 아니라 일상 언어를 통한 라플라스적 서술에 더 가깝다. 이 말을 더 잘 이해하기 위해서는 그레테가 라이프치히로 가서 하이젠베르크와 바이츠제커와 토론하면서 한 말이 좋은 실마리가 된다.

“칸트철학에서 인과율은 경험을 통해 확증되거나 반박될 수 있는 경험적 주장이 아니에요. 그것은 모든 경험의 전제이지요. 이는 칸트가 ‘선험적(아프리오리)’이라고 부른 범주에 속해요. 어떤 감각 인상이 선행하는 사건으로부터 비롯된다는 규칙이 없다면, 우리가 세계를 인지하는 감각 인상은 어떤 대상과도 연결되지 않는, 느낌의 주관적인 작용에 불과할 거예요. 따라서 지각을 객관화시키고자 한다면, 즉 무엇인가 사물이나 현상을 경험했다고 주장하려 한다면, 인과율, 즉 원인과 결과의 명백한 연결을 전제로 해야 하죠. 다른 한편 자연과학은 경험들을 다뤄요. 객관적인 경험들을 다루지요. 다른 경험으로 통제할 수 있는, 객관적인 경험들만이 자연과학의 대상이 될 수 있는 거예요. 이로부터 모든 자연과학은 인과율을 전제로 해야 한다는 결과가 나와요. 인과율이 있어야만 자연과학도 있을 수 있는 것이죠. 따라서 인과율은 사고의 도구라 할 수 있어요. 우리는 이런 도구를 가지고 감각 인상이라는 원료를 경험으로 가공하지요. 이것이 가능한 범위에서만 자연과학이 가능한 거고요 그런데 양자역학은 어째서 이런 인과율을 느슨하게 만들려고 하면서 동시에 자연과학으로 남고 싶어 하는 거죠?”

그레테 헤르만, <현대물리학이 인식이론에 대해 가지는 의미 Die Bedeutung der modernen Physik für die Theorie der Erkenntnis> (1937)의 표지

그레테는 자신의 접근을 다름 아니라 프리스와 넬손의 개념을 기반으로 삼아 칸트의 비판철학으로 연결시킨다. 초월관념론이 필요한 이유를 바로 양자역학에서 가져오는 셈이다. 다르게 말하면, 양자역학의 난점들을 초월관념론을 통해 해소하려는 프로젝트이다. 그레테는 이후 <과거의 이론과 현대의 이론에서 물리학적 예측의 기초 Über die Grundlagen physikalischer Aussagen in den älteren und den modernen Theorien> (1937) <현대물리학이 인식이론에 대해 가지는 의미 Die Bedeutung der modernen Physik für die Theorie der Erkenntnis> (1937) 등을 통해 양자역학의 기초를 칸트의 초월철학에 입각하여 더 상세하게 논의했다.

그레테가 인과율과 결정론에 가장 큰 관심을 가졌던 까닭은 무엇일까? 이를 이해하기 위해 그레테의 학문과 그의 삶의 궤적을 바라보는 관점에서 ‘포먼 논제’를 되새기는 것이 유익하다. 미국의 과학사학자 폴 포먼은 1971년에 발표한 논문을 통해 소위 외적 접근의 과학사와과학철학에 새로운 흐름을 만들어 냈다. 

폴 포먼의 논문(1971) 표지


포먼 논제에 따르면, 1차 대전 직후부터 1920년대 중반에 양자역학이 만들어질 때까지 이를 주도한 물리학자와 수학자 그룹이 전쟁 전의 문화에 강한 거부감을 가지고 있었으며, 이 ‘바이마르 문화’에 따라 비인과적이고 비결정론적이고 비유물론적인 성격의 새 이론을 큰 심리적 저항감 없이 구축하고 이를 이용했다. 1차 대전 패배 후 독일 지식인들 사이에서는 전쟁 전의 합리성, 진보, 근대성, 유물론을 추구하던 경향에 적대적인 분위기가 형성되었다. 그 전까지 물리학과 수학, 나아가 학문 전체에서 추구되던 인과성(Kausalität), 직관성(Anschauulichkeit), 개별성(Individualität)은 점점 그 명예의 전당에서 축출되어 나갔다. 

포먼이 그러한 과정의 핵심 계기로 보는 것은 슈펭글러(Oswald Spengler, 1880‒1936)의 저서 <서양의 몰락 Der Untergang des Abendlandes>이다.  슈펭글러는 역사가의 관점에서 물리학의 모든 체계들이 옳은 것도 아니고 틀린 것도 아니며 단지 물리학의 역사가 있을 뿐임을 역설한다. 그에게 각 시대의 물리학은 역사적으로 그리고 심리적으로 그 시대의 특성을 반영하고 요약하는 것이다. 슈펭글러가 ‘파우스트적’ 과학이라고 부르는 것의 가장 중요한 특성은 다름 아니라 ‘인과성원리’이다. 포먼의 분석에서 인과성에 대한 믿음으로부터 개종한 사람은 프란츠 엑스너, 헤르만 바일, 발터 쇼트키, 발터 네른스트, 리하르트 폰미제스, 에르빈 슈뢰딩거, 한스 라이헨바흐 등이다. 1919년에 출판된 엑스너의 <자연과학의 물리적 기초에 관한 강의 Vorlesungen über die physikalischen Grundlagen der Naturwissenschaften>는 자연법칙 중에 엄밀한 것은 아무것도 없다는 언명에서 출발한다. 바일은 괴팅겐 대학에 사강사로 있을 때 에드문트 후설의 순수현상학 프로그램에서 크게 영향을 받았다. 그러나 패전 이후 바일은 점차 인과성을 의심하면서 통계적 서술의 의미를 적극적으로 받아들이게 되었다. 논리경험주의의 비조인 한스 라이헨바흐도 실상 확률법칙과 인과법칙 사이에서 망설인다. 세계의 인과구조에 대한 근본적인 믿음을 정당화하기 어렵다는 것을 마지못해 인정한다. 

그레테가 1933년의 논문 “결정론과 양자역학”에서 깊이 논의한 문제는 당시 독일 지식인 사회에서 널리 퍼져 있던 비인과적이고 비결정론적인 시대정신을 정면으로 넘어서려는 본질적인 질문이었다. 그레테가 프리스-넬손의 신칸트주의 초월관념론을 통해 양자역학에서 인과성 및 확장된 결정론적 세계관을 구원하려 한 것은 바로 포먼이 분석한 바이마르 문화의 문제였다. 슈펭글러의 저서와 양자역학으로 상징되는 비인과적이고 비결정론적이며 비직관적인 세계관은 나치(NSDAP)의 권력 장악과 이차대전을 통해 훨씬 강력한 시대정신이 되어가고 있었고, 그레테가 부여잡고 싶었던 것은 단지 양자역학의 자연철학적 기초라는 상아탑 속의 논의가 아니었던 것이다.  

2019년 7월 9일
김재영 (녹색아카데미)

*2019년 4월 한국물리학회에 실었던 글을 이곳에 다시 소개한다.
원문 출처 : 한국물리학회



 더 읽어볼 자료

  1. E. Crull and G. Bacciagaluppi (eds.), Grete Hermann: Between Physics and Philosophy (Springer, 2016). 
  2. W. Heisenberg, Der Teil und das Ganze: Gesprache im Umkreis der Atomphysik (R. Piper & Co. Verlag, 1969); 유영미 옮김, 부분과 전체 (서커스출판상회, 2016).
  3. K. Herrmann (ed.), Grete Henry- Hermann: Philosophie-Mathematik- Quantenmechanik, Ausgewahlte Schriften und Korresponden aus den Jahren 1925 bis 1973 (Springer, 2017).
  4. C. L. Herzenberg, “Grete Hermann, An Early Contributor to Quantum Theory” (2008). arXiv:0812.3986. 
  5. L. Gilder, The Age of Entanglement: When Quantum Physics Was Reborn, Knopf (2008); 노태복 옮김, 얽힘의 시대 (부키, 2012).   

김재영 박사는 서울대학교 물리학과에서 물리학 기초론 전공으로 박사학위를 받았다. 독일 막스플랑크 과학사연구소 초빙교수 등을 거쳐 현재 KAIST 부설 한국과학영재학교와 서울대학교에서 물리철학 및 물리학사를 가르치고 있다. 공저로 『정보혁명』, 『양자, 정보, 생명』, 『뉴턴과 아인슈타인』 등이 있고, 공역으로 『아인슈타인의 시계, 푸앵카레의 지도』, 『에너지, 힘, 물질』 등이 있다.