장회익 선생님과 황승미님, 최우석님이 나눈 대담에서 행렬역학과 파동역학이 동등하다는 이야기가 나오는데, 그 상세한 내력과 구체적인 내용을 간단하게 소개하려 합니다.

1925년에 막스 보른, 베르너 하이젠베르크, 파스쿠알 요르단이 새로운 역학 '양자역학 Quantenmechanik'을 발표했습니다. 하지만 이 새로운 역학의 의미를 제대로 이해하는 사람은 극히 드물었습니다.

1925년 6월에 하이젠베르크는 헬골란트로 휴가를 떠났다가 거기에서 새로운 이론을 구상하게 됩니다. 푸리에 급수를 이용하여 위치와 운동량 대신 두 정상상태를 연결하는 숫자들을 대신 사용하자는 아이디어를 얻습니다.

그 아이디어를 들은 막스 보른은 대뜸 "그것은 수학자들이 '행렬'이라 부르는 것일세."라고 대답했습니다. 수학과 물리학 전반을 넓게 공부한 막스 보른과 달리 하이젠베르크는 속성으로 대학을 마치고 불과 22살에 박사학위를 받았던 탓에 어떤 면에서는 기초 지식이 많지 않았던 것 같기도 합니다.

그 해 가을에 보른과 하이젠베르크, 그리고 또 다른 보른의 박사후연구원 파스쿠알 요르단이 "양자역학을 향하여 II"라는 제목의 논문을 내면서, 양자역학이 본격적으로 세상에 나타났습니다. 거기에 사용된 수학적 대상인 '행렬' 때문에 '행렬역학'이라 불리기도 했습니다.

1926년 1월부터 에르빈 슈뢰딩거가 "고유값 문제로서의 양자화"라는 제목의 4부작 논문을 발표하면서 또 다른 형식의 양자역학이 나타났습니다. 거기에는 특별한 파동방정식이 등장하기 때문에 점차 '파동역학 Wellenmechanik'이라는 이름으로 불리게 되었습니다. 나중에 슈뢰딩거의 이름이 붙은 그 방정식은 위치와 시간에 대한 편미분 방정식의 형태였고, 그 풀이는 자연스럽게 일종의 파동으로 여겨졌습니다.

아인슈타인은 이 소식을 들은 자리에서 "이제까지 우리는 새로운 역학을 간절히 기다려 왔는데, 갑자기 두 가지 다른 역학이 등장했으니 이것을 어떻게 받아들여야 할까요?"라고 언급하기도 했습니다. 사실 당시로서는 당황스러운 상황이었습니다.

슈뢰딩거는 자신의 4부작 논문 중간에 보른-하이젠베르크-요르단의 이론과 자신의 이론이 동등하다는 증명 비슷한 것을 다루는 논문을 발표했습니다.

실상 당시의 물리학자들에게 슈뢰딩거가 제시한 파동역학은 직관적이고 알기 쉬운 것이었습니다. 편미분방정식은 뉴턴 이래 물리학자들이 기본적으로 학습하는 수학이론이었고 19세기 동안 엄청나게 발전해 있는 상태였습니다.

이와 달리 행렬역학은 행렬 계산 자체가 극소수의 수학자들만이 알고 있는 난해한 첨단 개념이었고, 거기에서 무엇인가를 계산한다 한들 정확히 무슨 계산을 하고 있는지 직관적으로 이해하기 어려웠습니다. 심지어 전세계에서 행렬역학을 이해하는 사람은 단 네 명뿐이라는 농담도 돌았습니다. 그 이론을 만든 보른, 하이젠베르크, 요르단, 그리고 그 이론으로 수소 문제를 풀어낸 파울리 이렇게 네 명이라는 이야기였습니다.

그렇다면 어떻게 파동역학과 행렬역학이 동등하다는 '증명'이 나올 수 있었을까요?

1932년에 나온 폰노이만의 저서 [양자역학의 수학적 구조]가 바로 그 증명을 담고 있었습니다.

괴팅겐 대학에 있던 저명한 수학자 다비트 힐버트(힐베르트)의 추상적인 벡터공간 개념을 이용했습니다. 이 공간에는 나중에 힐버트 공간이라는 이름이 붙었습니다.

그 증명과정은 실상 상당히 복잡합니다. 여기에서는 대략의 아이디어만을 소개하겠습니다.

파동역학은 함수를 다룹니다. 함수는 연속적입니다. 이와 달리 행렬역학은 불연속적인 행렬을 다룹니다. 이 둘이 연결되기가 쉽지 않죠. 그러나 함수를 기본함수(기저)들의 합으로 나타낼 수 있다는 생각을 발전시키면, 이것도 일종의 벡터라는 것을 알 수 있습니다.

(이어서 쓰겠습니다.)

The equivalence myth of quantum mechanics —Part I
https://doi.org/10.1016/S1355-2198(96)00022-6

The equivalence myth of quantum mechanics—part II
https://doi.org/10.1016/S1355-2198(97)00001-4