캐나다 페리미터 연구소의 리 스몰린 교수는 제가 무척 신뢰하는 탁월한 물리학자입니다. 고리양자중력 이론(Loop Quantum Gravity)의 개척자 중 하나이기도 하고, 물리학에 대한 매우 근본적인 질문을 던지고 이를 깊이 파고드는 학자여서, 일견 철학자의 면모를 보이기도 하며, 철학에 대한 식견이 높습니다.

2019년에 나온 책 <끝나지 않은 아인슈타인의 혁명: 양자 너머에 놓여 있는 것의 탐구>는 여러 면에서 의미심장합니다.

Lee Smolin (2019). Einstein's Unfinished Revolution: The Search for What Lies Beyond the Quantum. Penguin Press (https://amzn.to/3DXpCXW)

스몰린의 책의 한국어번역판은 <아인슈타인처럼 양자역학하기: 직관과 상식에 맞는 양자이론을 찾아가는 물리학의 모험>이란 제목으로 2021년에 출간되었습니다. (http://aladin.kr/p/y4lBB) 사실 제목이 좀 엉뚱해서 당혹감을 주기도 했는데, 너무나 안타깝게도 책 안에 수백 번 등장하는 reality를 죄다 '실재(實在)'가 아니라 '현실(現實)'이라고 번역해 놓았습니다. 그래서 realism과 anti-realism도 '현실주의'와 '반현실주의'가 되었습니다. '현실'의 '현現'은 지금 눈 앞에 나타나는 것, 현상, 구현되는 것, 발현되는 것이란 의미입니다. 스몰린이 말하는 reality는 철저하게 눈 앞에 나타나지 않는 것, 현상과 반대되는 것, 구현되지 않은 것, 발현되지 않은 것을 가리키는 '실재(實在)'입니다.

어제 세미나에서 존재론/인식론/실재론에 대한 이야기가 오고 갔습니다만, 제가 이해하고 있는 '실재론 논쟁'은 과학철학 안에서 지난 100여년 동안 진행된 논쟁입니다.

[그림 출처: philosophy-in-figure.tumblr.com ]

철학 일반에서 다루어지는 실재론 논쟁은 나중에 다시 따지기로 하고, 우선은 과학철학에서 말하는 실재론에 주목하면, 논쟁의 핵심은 관찰가능한 현상과 관찰불가능한 이론적 용어/개념 사이의 관계에 놓여 있습니다. 실재론이든 반실재론이든 관찰가능한 현상 자체는 인정합니다. 그런 점에서 데카르트나 버클리나 흄 등에서 흔히 이야기되는 실재에 대한 철학적 논의와는 거리를 둡니다.

문제는 직접 관찰할 수 없는 이론적 용어나 개념에 대해 실재성(reality)을 부여할 수 있는가 여부입니다. 여기에서 '실재(實在)'라는 것은 인식의 저편 어딘가 자연에 존재하다고 여겨지는 세계나 물(物 Ding, Thing) 같은 것을 가리킵니다. 그런 면에서 소위 '현실(現實)'과 정확히 반대에 놓입니다. 문학이나 예술에서 '리얼리즘'은 '사실주의'로서 관념이나 명분이나 이데올로기가 아니라 살아가면서 드러나는 바로 그것, 즉 '드러난 실체'인 '현실(現實)'에 주목하자는 것이라 말할 수 있습니다. 감각할 수 있으며 직접 경험할 수 있는 현상(現象, phenomena)에 '드러난다' 또는 '나타난다'라는 의미의 '現'을 붙인 것은 드러난 것이 아니기 때문입니다. 현상과 달리 인식 너머 어딘가에 정말로 존재하리라 여겨지는 무엇, 즉 실재(實在)하는 것을 '현실'이라고 부를 수는 없습니다.

그래서 스몰린의 책 전체가 온통 그 이야기를 하고 있는 그 reality 또는 Reality를 '현실'이라고 번역한 한국어판 번역자는 스몰린의 책에서 아무 것도 이해하지 못하고 있다고 말할 수 있습니다.

장회익 선생님의 <양자역학을 어떻게 이해할까?> 293쪽에는 스몰린의 책 서문에 나오는 두 가지 질문이 등장합니다.

"한 세기 동안의 양자역학에 대한 논쟁 뒤에는 실재의 본성에 대한 근본적인 불일치가 있다. 그것은 해결되지 않은 채 과학의 본성에 대한 논쟁으로 이어지는 불일치다. 두 가지 질문이 그 분열 밑에 깔려 있다.

첫째, 자연세계는 우리의 마음과 독립하여 존재할까? 더 정확히 말해서 물질은 우리의 지각과 지식을 참조하지 않고 그 자체 안에 그리고 그 자체의 속성들을 지니고 있을까? 둘째, 그 속성들을 우리가 이해하고 서술할 수 있을까? 우리가 우리 우주의 역사를 설명하고 그 미래를 예측할 수 있을 만큼 충분히 자연의 법칙을 이해할 수 있을까?

이 두 질문에 대한 우리의 대답은 과학의 본성과 목적에 관한 더 큰 질문, 그리고 더 큰 인간 프로젝트에서 과학의 역할에 대한 함축을 지닌다."

"Behind the century-long argument over quantum mechanics is a fundamental disagreement about the nature of reality—a disagreement which, unresolved, escalates into an argument about the nature of science.

 Two questions underlie the schism.
 First off, does the natural world exist independently of our minds? More precisely, does matter have a stable set of properties in and of itself, without regard to our perceptions and knowledge?
Second, can those properties be comprehended and described by us? Can we understand enough about the laws of nature to explain the history of our universe and predict its future?
The answers we give to these two questions have implications for larger questions about the nature and aim of science, and the role of science in the larger human project."(p. xix)

이 두 가지 질문은 과학철학 전반에서 가장 중심적인 문제이면서, 철학 일반으로까지 확장될 수 있는 근본적인 질문입니다.

첫 번째 질문은 세계 즉 실재(reality)가 인식주체로서의 우리의 마음과 독립하여 존재하는가 여부입니다. 좁게 보면 이것은 철학 분야에서 존재론(ontology)라 부르는 문제를 제기하는 것으로 볼 수 있습니다. 그런데 더 넓게 보면 이것은 인식주체와 인식대상의 이분법을 비판하면서 주체/대상을 넘어서는 논의를 전개하려 했던 후설의 철학적 현상학과 이어질 수 있을 것입니다. 최근에 크게 주목을 받고 있는 신유물론(New Materialism) 또는 신실재론(New Realism) 또는 사변적 실재론(Speculative Realism) 내지 객체지향철학(Object-Oriented Philosophy)에서는 이렇게 주체와 대상을 나누는 기존의 철학적 접근들을 모두 상관주의(Correlationalism)라고 강하게 비판하면서, 인식주체와 무관한 실재의 존재를 먼저 가정한 뒤에 이야기를 풀어나가자고 제안합니다. 신실재론이 양자역학과 만날 수 있는 중요한 계기가 됩니다.

두 번째 질문은 인식론적 문제(epistemological problems)에 속하는 것입니다. 설령 인간 또는 인식 주체와 별개로 세계가 존재한다한들 그것에 대한 자연과학적 접근, 특히 법칙 같은 것을 제대로 이해할 수 없다면, 실재의 본성에 대한 올바른 이야기가 되기 어려울 겁니다. 신실재론이 자주 동어반복에 그치거나 말 그대로 사변적인 구호를 내세우기만 하는 듯 보이는 것은 바로 인식론적 문제에 대한 제대로 된 이야기를 풀어내지 못하고 있기 때문일 것입니다.

스몰린의 통찰은 대단히 중요합니다. 지난 100여년 동안 양자역학을 둘러싼 수많은 논쟁들과 논란들이 단지 하나의 물리학 이론으로서 양자역학이라 부르는 계산도구를 어떻게 이해할 것인가 하는 소박하고 좁은 문제에 국한되지 않는다는 것입니다. 오히려 양자역학에 대한 불일치는 바로 과학의 본성과 목적에 대한 가장 근본적인 믿음과 주장에 대한 불일치를 바탕에 깔고 있다는 것입니다.

그래서 스몰린은 이 책 전체에서 주류 입장이라 할 수 있는 보어와 하이젠베르크의 접근을 반실재론이라 부르면서, 자신은 그것을 받아들일 수 없으며, 아인슈타인도 그러했다고 주장합니다. 흔히 보어-아인슈타인 논쟁이라 부르는 것은 가장 근본적인 철학적 태도와 믿음에 대한 것이라는 의미입니다.

스몰린이 반실재론(anti-realism)이라 부르는 것은 세 가지가 있습니다. 먼저 닐스 보어의 주장이 있습니다. 논란은 많지만, 여하간 이것을 대충 '코펜하겐 해석'이라고 부를 수도 있겠습니다. 관찰되기 전에는 물리적 세계가 아예 존재하지 않는다는 보어 말년의 주장은 매우 당혹스러운 것입니다. 다만 보어의 물리철학은 매우 복잡합니다. 보어가 반실재론자라는 주장 외에 오히려 보어야말로 실재론자라는 주장도 만만치 않습니다.

두 번째 반실재론은 스몰린이 양자 인식론자(quantum epistemologist)라 부르는 입장입니다. 흔히 '양자 베이즈주의(quantum Bayesianism, QBism)'라 부르는 이 입장은 양자역학은 대상세계에 대한 서술이라기보다는 대상세계에 대한 물리학자(사람)의 지식에 대한 서술이라고 보자는 겁니다. 세 번째로 들고 있는 조작주의는 하이젠베르크의 입장인데, 사실 저는 스몰린이 평가하는 하이젠베르크가 꽤 왜곡되어 있다고 보고 있습니다.

여하간 양자역학에 대한 철학적 접근의 역사는 반실재론의 승리였고, 지금도 여전히 반실재론자들이 득세하고 있다는 것이 스몰린의 주장입니다. 스몰린이 II부에서 "다시 태어난 실재론"이라는 제목으로 상세하게 분석하고 있는 여러 실재론들은 양자역학에 대한 대안적 해석으로 제안된 것입니다.

(1) 여러세계해석 (마술적 실재론) (2) 자발적 붕괴이론 (3) 파일럿 파동 (드브로이/봄) (4) 존 벨과 양자얽힘 등으로 분류하는 것이 기존의 실재론입니다. 이와 더불어 새로운 실재론으로서 (5) 양자정보이론: It from Qubit 존 윌러) (6) 관계적 양자이론 (로벨리, 스몰린, 크레인) (7) 화이트헤드 과정철학의 의미를 강화하고 있는 카우프만-캐스트너-에퍼슨 (2017) (8) 고므 (2016, 2018): 윌러-드윗 방정식 (9) 역향인과; 역사 접근; 상호작용하는 여러 고전세계; 초결정론 등을 각각 논의합니다.

그 뒤에 III부에서 스몰린 자신이 새로 주창하는 더 근본적이고 양자이론을 넘어서는 새로운 이론이 바탕에 두어야 할 원리들(배경독립성의 원리, 관계적 공간 및 시간의 원리, 인과적 완전성 원리, 상호성 원리, 구별불가능한 것의 동일성 원리)과 가설들(시간은 인과의 의미에서 근본적이다,  시간은 비가역적이다,  공간은 창발적이다)을 차분하게 다룹니다.

저는 이것이 다름 아니라 아인슈타인이 1936년 "물리학과 실재"에서 말한 그 바탕이론 또는 미래이론이라고 해석합니다. 이것이 <양자역학을 어떻게 이해할까?> 297쪽에 인용된 바로 그 구절에 담겨 있는 내용입니다. 종종 아인슈타인이 미국으로 망명한 뒤 중력과 전자기력을 통일하는 통일장 이론을 찾으려 애썼다는 이야기가 나오는데, 이것은 정확하지 않은 이야기입니다. 아인슈타인이 세상을 떠나기까지 가장 골몰하며 집중적으로 탐구했던 것은 바로 이 바탕이론 또는 미래이론이라는 것이 저의 견해입니다.

스몰린의 분석과 맥락은 조금 다르지만, 아래 그림을 함께 보는 것이 도움이 되겠습니다.

[그림 출처 Rovelli (2021)]

이 그림은 리 스몰린과 함께 고리양자중력(Loop Quantum Gravity) 이론을 발전시킨 카를로 로벨리가 2021년 강연에서 보여주었던 슬라이드입니다. 자신이 주장하고 발전시켜 온 '관계적 양자역학(RQM, Relational Quantum Mechanics)'이 도구주의의 '스킬라'와 과도한 형이상학을 주장하는 '하륍디스' 사이에서 조심스럽게 중간적 입장을 취하고 있다는 겁니다.

로벨리가 코펜하겐 실험실 관점이라 부르는 것은 실험실에서 별 생각 없이 단순하게 말할 수 있다는 게 장점이지만, 관찰자에 대해 얘기하기 어렵다는 단점이 있고, 철저하게 실용주의 내지 경험주의에 갇혀 있습니다. 양자베이즈주의(Q-Bism)은 양자역학은 측정결과에 대한 주관적 예측을 할 뿐이라고 보기 때문에 강한 도구주의이자 관념론에 속합니다. 여러세계 해석은 강한 실재론이자 존재론적 급진주의로서 존재론을 지나치게 과장하고 있습니다. 그보다는 약하지만 물리적 붕괴를 주장하는 입장은 강한 보수주의(즉 이론을 믿지 않는다는 점에서)이면서 추가적인 동역학 이론에 대해 실험상의 증거가 아직 전혀 없다는 것이 단점입니다.

위의 슬라이드가 카를로 로벨리의 입장을 설명하기 위한 것이었다면, 아래 그림은 조금 더 차분하게 양자역학의 해석들을 순서도로 분류하고 있습니다.

[그림 출처: Paul Busch, Pekka J. Lahti, Peter Mittelstaedt (1996). The Quantum Theory of Measurement. Second Revised Edition. Springer. p. 6]

이 순서도에서 최소의 해석(Minimal Interpretation)은 양자역학에서 측정결과는 상대빈도를 나타낸다고 봅니다. 이 점은 모든 해석들이 동의하는 부분이기 때문입니다. 그런데 그 상대빈도를 드러내는 무엇인가가 존재하는가 여부에 따라 해석이 갈립니다. '통계적 해석(Statistical Interpretation)'이라 부르는 것에서는 그 측정결과의 상대빈도는 말 그대로 측정결과의 상대빈도일 뿐이라고 봅니다. 이것이 최근 주목받고 있는 양자베이즈주의(QBism)의 접근이기도 합니다.

실재론적 해석(Realistic Interpretation)은 측정결과의 상대빈도를 나타내는 무엇인가가 개별계로 존재한다고 봅니다. 그러나 이 관점도 다시 양자역학의 서술이 완전하다고 보는가 아닌가에 따라 불완정성(Incompleteness)과 완전성(Completeness)으로 갈립니다. 앞의 입장은 양자역학이 바탕이론/미래이론/최종이론이 아니라고 보고 더 근본적인 이론이 있다고 믿습니다. 이런 접근에서는 대체로 우리가 아직 모르는 숨은 변수가 있다고 가정하기 때문에 이런 해석들을 통칭하여 흔히 '숨은변수 이론'이라고 부릅니다. 뒤의 입장은 양자역학이 현 단계에서는 완전한 이론이라고 받아들이는 입장입니다. 그러나 이 또한 양자역학의 형식체계가 최종적이라고 보는지 아닌지에 따라 갈라집니다. 제한된 유효성(Limited Validity)으로 묶는 입장은 양자역학에 여하간 부가적인 형식체계가 필요하다는 해석입니다. 초선택 규칙을 주장하거나 자발적 붕괴의 메커니즘을 도입하는 식으로 기존의 양자역학 형식체계를 수정합니다. 양자역학의 보편적 유효성(Universal Validity)을 받아들이는 입장도 여러세계 해석, 양상해석, 결깨짐 접근, 날카롭지 않은 대상화 접근 등으로 구별됩니다.

결국 프랑크 랄로에가 양자역학을 제대로 이해하기 위해 해결해야 할 가장 중요한 문제로 제기한 것을 다시 상기하는 것이 유익하리라 생각합니다.

Franck Laloë (2019) Do We Really Understand Quantum Mechanics? (2e) Cambridge University Press. (https://bit.ly/3Xd2qN3)

Franck Laloë (2018) Comprenons-nous vraiment la mécanique quantique? 2e édition, révisée et augmentée. EDP SCIENCES (https://amzn.to/3QJWVmE)

"양자역학의 어려움은 물리적 계를 서술하기 위해 사용하는 수학적 대상인 상태 벡터 $|\Psi\rangle$에서 비롯된다. 고전 역학에서 계의 상태는 구성 요소의 위치와 속도를 직접 지정하여 서술되지만, 양자 역학은 이를 복잡한 수학적 대상 $|\Psi\rangle$로 대체하여 비교적 간접적으로 서술한다. 이것은 수학적으로뿐만 아니라 개념적으로도 엄청난 변화이다. $|\Psi\rangle$와 물리적 성질 사이의 관계는 고전 물리학에 비해 이론의 해석에 대한 논의의 여지를 훨씬 더 많이 남긴다. 사실, 양자역학을 "제대로 이해하려고" 시도한 사람들(또는 여전히 노력하고 있는 사람들)이 직면하는 많은 어려움들은 $|\Psi\rangle$의 정확한 지위와 관련된 질문들과 관련되어 있다. 예를 들어, 그것은 물리적 실재 자체를 서술하는가, 아니면 우리가 이 실재에 대해 가질 수 있는 일부 (부분적인) 지식만을 묘사하는가? 계의 앙상블만 서술하는가(통계적 서술), 아니면 단일계(단일 사건)도 서술하는가? 실제로 $|\Psi\rangle$가 계에 대한 불완전한 지식의 영향을 받는다고 가정한다면 원리적으로나마 더 나은 서술이 존재해야 한다고 기대하는 것은 자연스럽지 않은가? 그렇다면 실재에 대한 이처럼 깊고 정확한 서술은 무엇일까?" (p. xiv)