과학과 수학의 불확실성 – (7) 거짓말쟁이의 역설과 양자역학의 서울 해석

(1) 확실한 지식? 2020. 3. 3. 
(2) 기하학적 사유의 확실성 – 1. 2020. 3. 3.
(3) 기하학적 사유의 확실성 – 2. 2020. 3. 10.
(4) 포르투나와 사피엔티아, 또는 확률적 사유. 2020. 3. 17.
(5) 19세기의 과학과 수학. 2020. 3. 24.
(6) 하이젠베르크의 불확정성 원리. 2020. 3. 31.
(7) 거짓말쟁이의 역설과 양자역학의 서울 해석. 2020. 4. 7.
(8) 수학기초론과 괴델의 불완전성 정리. 2020. 4. 14. 
(9) 인식론의 문제. 2020. 4. 21.
(10) 과학과 수학은 확실한 지식을 주는가? 2020. 4. 21.

글: 김재영 (녹색아카데미)


양자역학의 서울해석(SIQM; Seoul Interpretation of Quantum Mechanics)의 가장 중요한 핵심 주장은 동역학적 서술에서 사건서술과 상태서술을 구분해야 한다는 것이다. 그런데 왜 사건서술과 상태서술을 구분해야 하는 것일까? 

이에 대한 실마리를 에피메니데스의 역설에서 찾을 수 있다. “크레타 사람은 다 거짓말쟁이”라고 크레타 사람인 에피메니데스가 말했다. 이 말이 역설이 되는 것은 다음과 같이 이해할 수 있다.

에피메니데스의 말이 참이라고 가정하자. 그러면 크레타 사람은 다 거짓말쟁이가 된다. 그런데 에피메니데스는 크레타 사람이므로 그도 거짓말쟁이이다. 거짓말쟁이의 의미를 거짓말 하는 사람이라고 국한시켜 이해하면, 에피메니데스의 말은 거짓이 된다. 따라서 모순을 일으킨다.

반대로 에피메니데스의 말이 거짓이라고 가정하자. 그러면 크레타 사람은 거짓말쟁이가 아니게 되어서, 크레타 사람은 에피메니데스도 거짓이 아닌 참을 말하는 것이 되는 것처럼 보인다.

[그림 1] 그림을 보는 사람은 동시에 그림 안에 들어가 있다. 에피메니데스의 역설에서 크레타 사람처럼 자신이 서술하는 내용에 자기가 언급됨으로써 역설이 발생한다. 그림은 M. C. 에셔의 “Print Gallery.” 1956. (출처: mcescher.com)

그런데 에피메니데스의 역설은 쉽게 해소할 수 있는 방법이 있다. 뒤의 경우에 에피메니데스의 말이 거짓이라고 하면, “모든 크레타 사람은 거짓말만 한다”는 말이 거짓이므로, 어떤 크레타 사람은 거짓말을 안 한다는 뜻이 된다. 거짓말을 하지 않는 크레타 사람이 에피메니데스가 아닐 수도 있기 때문에, 이 경우에는 모순을 일으키지 않는다.

이와 유사한 이발사의 역설은 다음과 같다. 어떤 마을에서 가장 잘 나가는 이발사인 스위니 토드가 어느 날 호언장담을 했다.

스위니 토드: “이 마을에서 스스로 면도하지 않는 사람은 모두 내가 면도합니다.”

그런데 현명한 한 어린아이가 질문했다. “아저씨는 누가 면도해 주나요?” 만일 스위니 토드가 스스로 면도하지 않는다면, 그 자신의 주장에 따라 스위니 토드가 면도해야 하며, 따라서 스스로 면도한다는 모순을 일으킨다.

반대로 스위티 토드가 스스로 면도한다면, 스위니 토드는 이 마을에서 스스로 면도하지 않는 사람에 속하므로, 스스로 면도하지 않는다는 것이 되어 또다시 모순을 일으킨다. 후자의 경우는 스위니 토드의 주장을 “만일 이 마을의 어떤 사람이 스스로 면도하지 않는다면, 오직 그 경우에만 스위니 토드가 그 사람을 면도한다.”라는 쌍조건문으로 이해한 것이다.

에피메니데스의 역설을 수정한 것이 거짓말쟁이의 역설이다. 이것은 다음과 같은 주장이 모순을 일으킨다는 것이다.

나는 “내가 하는 말은 거짓이다.”라고 말한다.

이 말이 참이라고 가정하자. 그러면 내가 하는 말이 참이므로, “내가 하는 말은 거짓이다.”라고 말한 것이 거짓이 된다. 즉 이 말은 거짓이 되어, 모순을 일으킨다.

반대로 이 말이 거짓이라고 가정하자. 그러면 내가 하는 말이 거짓이므로, “내가 하는 말은 거짓이다.”라고 말한 것은 참이 된다. 또는 이 말이 거짓이라면, 내가 하는 말은 거짓이 아니므로 참이 된다. 다시 모순을 일으킨다. 이 경우에는 에피메니데스의 역설처럼 피해갈 도리가 없다. 

거짓말쟁이의 역설은 다음과 같이 변형할 수 있다.

이 문장이 참이라고 가정하면, 말 그대로 이 상장 안에 있는 그 문장은 거짓이 되어 모순을 일으킨다. 또한 이 문장이 거짓이라고 가정하면, “이 상자 안에 있는 문장이 거짓”이라는 주장은 참이 되어 모순이다.

러셀의 역설에서도 같은 문제가 발생한다. 이는 자기 자신을 원으로 갖지 않는 집합 { }이란 개념이 모순을 일으킨다는 것이다. 만일 X가 이 집합의 원이라고 가정하면, 자기 자신을 원으로 갖지 않는다고 정의되었으므로 이 집합의 원이 되지 않아 모순을 일으킨다. 반대로 X가 이 집합의 원이 아니라고 가정하면, 정의에 따라 이 집합의 원이 되어 또다시 모순을 일으킨다.

[그림 2] “러셀의 역설.” (출처: <로지코믹스>. p.172. A. 독시아디스 등, 2009; 전대호 옮김, 2011. RHK코리아.)

러셀은 이 문제를 해결하기 위해 『수학의 원리』(Principia Mathematica, 1910)에서 계형이론(type theory)을 제시했다. 이에 따르면 집합론의 경우에 집합들의 집합(즉 멱집합 power set)은 하위의 집합과 같은 계형이 아니라고 함으로써 역설을 피할 수 있다.

가장 쉬운 방법은 집합 기호 { }를 이용하는 것이다. 즉 집합 A와 집합 {A}는 다르다. {A}라는 집합은 A라는 집합을 원으로 갖는 집합을 의미한다. 따라서 A{A}라는 표현은 아무런 문제가 없지만, 가령 AA라든가 {A}{A}라는 표현은 허용되지 않는다.

한층 나아가 {{A}}라는 집합도 생각할 수 있다. 이를 명제에 대한 논의로 번역하면, 1차 명제와 1차 명제들에 대한 2차 명제, 2차 명제들에 대한 3차 명제 등등과 같이 명제들의 계형(type)을 구분하는 것이 된다.

러셀의 역설을 피하기 위해서는 자기언급성 명제를 원천적으로 금지하면 된다. 가령 “배중률은 참 아니면 거짓이다.”라는 명제는 2차 명제이므로 “모든 명제는 참 아니면 거짓이다.”라는 1차 명제로서의 배중률을 2차 명제에 자기언급적으로 적용할 수 없다. 그런데 이와 같은 러셀의 해결책은 부적절해 보인다. 자기언급성 명제를 꼭 금지해야만 할까? 가령 다음과 같은 문장을 생각해 보자.

“이 문장은 참이다.”는 참이다.

이 문장은 자기언급성 명제이지만 모순을 일으키지 않는다. 따라서 자기언급성 명제를 금지해야만 하는 것은 아니다. 

1933년 폴란드의 논리학자 알프레드 타르스키는 논리학의 근본적인 문제점 중 하나였던 거짓말쟁이의 역설을 해결하기 위해 “형식언어의 진리개념”(Der Wahrheitsbegriff in den formalisierten Sprachen)이란 제목의 방대한 논문에서 대상언어와 메타언어를 구별할 것을 제안했다.

[그림 3] Alfred Tarski. 1901~1983). (출처: selftruths.com)

메타언어는 대상언어로 이루어진 언명들을 서술하는 한 단계 위의 언어이다. 과학이론의 여러 담론들이 대상언어로 기술된다면, 메타과학은 그 과학 자체에 대한 메타언어로 기술된 담론이다. 그 핵심은 대상언어와 메타언어의 구분에 있다. 타르스키의 언어계층론은 러셀의 계형이론을 발전시킨 것으로 볼 수 있다. 

가령 다음과 같은 명제들을 생각해 보자.

(a) 눈은 하얗다.
(b) “눈은 하얗다”는 한글이다.
(c) “눈은 하얗다”는 거짓이다.
(d) “‘눈은 하얗다’는 프랑스어이다”는 거짓이다.

명제 (b)의 참/거짓 여부는 명제 (a)의 참/거짓과 무관하다. 명제 (c)의 경우는 조금 더 복잡하다. 명제 (a)가 참이라면 명제 (c)는 논리적으로 거짓이 된다. (d)의 경우는 명제 (b)가 참이므로 명제 (d)가 참임을 알 수 있다. 

인용부호는 대상언어를 메타언어로 전환시키는 역할을 한다. 대상언어와 메타언어를 혼동하면 자주 개념적 문제가 발생한다. 거짓말쟁이의 역설은 바로 그러한 전형적인 사례가 된다. “내 말”은 “‘내 말은 거짓이다’라는 말”과 같다. 만일

L = ‘L’은 거짓이다.

라 하면 L이 대상언어와 메타언어에 모두 속하게 된다. 거짓말쟁이 역설은 같은 명제가 대상언어와 메타언어에 모두 속할 때 발생한다. 대상언어와 메타언어를 구분한다면 거짓말쟁이의 역설은 일어나지 않는다. 거짓말쟁이의 역설이 타르스키의 언어계층론을 통해 완전히 해결된 것은 아니다. 이 문제에 대하여 여러 논리학자들이 다시 더 세련된 판본으로 논의를 확장하고 있다.

SIQM에서 상태서술과 사건서술을 구분해야 한다는 것은 대상언어와 메타언어의 구분과 연관된다. 다음 명제들을 비교해 보자.

(a) 수소원자의 전자가 첫째 들뜬 상태에 있다.
(b) 전자의 에너지가 -3.4 eV이다.
(c) 수소원자의 전자가 첫째 들뜬 상태에 있을 때, 전자의 에너지를 측정한다면 -3.4 eV가 될 것이다.
(d) 전자가 라는 상태에 있을 때, 전자의 에너지를 측정한다면 -3.4 eV 혹은 -13.6 eV가 될 것이다.
(e) 위의 경우에 전자의 에너지가 -3.4 eV가 될 확률은 1/3이며, -13.6 eV가 될 확률은 2/3이다.

명제 (a)는 상태서술이며, 명제 (b)는 사건서술이다. 관건은 명제 (c)의 경우처럼 상태서술과 사건서술을 연결시키는 주장이 가령 명제 (a)와 같은 수준의 대상언어로 기술되는가 여부이다. 이를 다음과 같이 써 보자. 

(c’) “수소원자의 전자가 첫째 들뜬 상태에 있다.”는 말은 전자의 에너지를 측정한다면 -3.4 eV가 될 것이라는 말과 같다.

따옴표를 이용하여 새로 쓴 것을 보면, 명제 (a)와 명제 (b)를 연결시키는 주장은 원론적으로 메타언어로 서술되고 있음이 잘 드러난다. 메타언어로 서술된다고 해서 개념적 난점을 유발하는 것은 아니다.

자기언급성 명제가 허용되는 경우가 있듯이, 고전역학은 상태서술과 사건서술 사이의 관계가 일의적이며 일대일로 대응되기 때문에, 종종 상태서술과 사건서술을 구분하지도 않을 때가 많다. 그러나 양자역학에서는 (c’)과 같은 명제를 정확히 이해하기 위해 상태서술과 사건서술을 분명하게 구별해야 한다. 

[그림 4] 손이 손을 그린다. 서술 대상과 서술 주체가 순환적으로 엉켜있는 상황을 보여준다. 그림은 M. C. 에셔의 “Drawing Hands.” 1948. (출처: mcescher.com)

요컨대, 상태서술과 사건서술의 구분은 대상언어와 메타언어를 혼동하지 말아야 한다는 타르스키의 논의에서 정당화의 근거를 찾을 수 있으며, 이것은 측정이라는 과정이 물리학적 언어로 서술되는 대상과 물리학적 언어를 사용하는 서술주체 사이의 관계를 규정하는 메타언어적 상황이기 때문이다.

(8) 수학기초론과 괴델의 불완전성 정리로 계속 됩니다.
과학칼럼은 매주 화요일에 업로드됩니다.


참고문헌

  • 김재영. (2001). “한계로서의 확률: 양자역학과 통계역학의 예”, 『과학과 철학』, 제12집. pp. 1~20.
  • 김재영. (2004). “통계역학의 기초 다시 보기: 메타동역학적 접근”, 『과학철학』, 제7권 pp. 21~63.
  • 김재영. (2010). “불확실성의 과학은 어떻게 만들어졌는가?”. 박성민 외, 『불확실한 세상』 사이언스북스. pp. 251-284.
  • 야마오카 에쓰로 (2004). 『거짓말쟁이의 역설』, 안소현 옮김, 영림카디널. 
  • 장회익 외 (2016). 『양자, 정보, 생명』 한울아카데미.
  • Franzén, Torkel (2005). Gödel’s Theorem. An Incomplete Guide to Its Use and Abuse. A K Peters.   
  • Gigerenzer, G. et al. (1989). The Empire of Chance: How probability changed science and everyday life. Cambridge University Press.
  • Goldstein, R. (2005). Incompleteness: The proof and paradox of Kurt Gödel. Norton; 고중숙. (2007). 『불완전성: 쿠르트 괴델의 증명과 역설』, 승산.
  • Hacking, I. (1975). The emergence of probability: A philosophical study of early ideas about probability, induction and statistical inference. Cambridge University Press.
  • Harman, P. (19 ). Energy, Force, Matter: Physics in the Nineteenth Century. Harvard University Press; 김동원, 김재영 (2000). 『에너지, 힘, 물질: 19세기의 물리학』, 성우출판사.
  • Kline, M. (1982). Mathematics: The Loss of Certainty. Oxford University Press; 심재관. (2007). 『수학의 확실성: 불확실성 시대의 수학』, 사이언스북스.

*알림: 웹사이트 스킨 문제로 댓글쓰기가 안되고 있습니다. 댓글이나 의견 등은 녹색아카데미 페이스북 그룹트위터인스타그램 등을 이용해주시면 감사하겠습니다. 공부모임 게시판에서는 댓글을 쓰실 수 있습니다. 이용에 불편을 드려 죄송합니다. – 녹색아카데미