일반상대성이론 100+4년 – 제3회.아인슈타인과 가우스와 비유클리드 기하학

2015년, 아인슈타인의 일반상대성이론이 100세가 되었다. 특수상대성이론이 100세가 된 것은 10년 앞선 2005년이다. 일반상대성이론은 과학이론의 본성이 무엇인지 잘 드러내 주는 좋은 사례이기도 하고, 시간과 공간과 우주와 물질에 대한 가장 근본적인 이론이면서도 동시에 실증적으로 권위를 인정받은 이론이기도 하다.

그만큼 역사적인 맥락이 풍부하며, 또한 문화적 영향도 다양하다. 무엇보다도 시간과 공간에 대한 철학적 논의에서 중요한 역할을 해 왔다. 녹색아카데미 과학칼럼에서는 일반상대성이론이 만들어지고 다듬어지는 역사적, 철학적 과정을 9회에 걸쳐 살펴본다.

글 : 김재영 (녹색아카데미)
2019년 8월 27일

1. 뉴턴이여, 나를 용서하시길! (8/13)
2. 절대공간은 존재할까? (8/20)
3. 아인슈타인과 가우스와 비유클리드 기하학 (8/27)
4. 드디어 일반상대성이론이 만들어지다 (9/3)
5. 일반상대성이론을 푼다는 것 (9/10)
6. 일반상대성이론의 수용, 오해, 해석 (9/17)
7. 르메트르와 앨퍼 : 허블과 가모프에 가려진 우주론자들 (9/24)
8. SF와 상대성이론 (10/1)
9. 우리의 소원은 통일이론 (10/8)
   
   과학칼럼은 매주 화요일 업로드됩니다.

흔히 ‘기적의 해’라고도 불리는 1905년에 아인슈타인은 획기적인 논문 다섯 편을 쓰며 기염을 토했지만, 그 자신도 특수상대성이론이 중력의 문제를 해결하지 못하는 불완전하고 어정쩡한 이론임을 잘 알고 있었다. 1911년 모교 취리히 연방공과대학(ETH)에서 교편을 잡게 된 아인슈타인으로서는 어떻게 중력을 고려할 수 있을지 감을 전혀 잡지 못하고 있었다.

그로서는 나중에 ‘생애 속 가장 행복한 생각’이라고 회고한 사고실험이 거의 전부였다. 그에 따르면 지붕에서 떨어지는 사람은 중력을 검출할 수 없다. 그렇다면 중력에 의한 효과와 관찰자가 속해 있는 좌표계의 가속에 의한 효과는 구별할 수 없고, 사실상 동등하다. 효과를 구별할 수 없다면 이 둘은 같은 것이라고 볼 수 있다. 이것이 소위 등가 원리이다. 그러나 이렇게 ‘운 좋은 아이디어’를 얻더라도 그로부터 의미 있는 실제 물리이론을 발전시키는 과정은 매우 험난하고 힘겹다. 

많은 물리학이론들이 그렇듯이, 이론을 전개하기 위한 기본적인 아이디어를 얻었다 하더라도 이러한 원리적이고 직관적인 착상을 가장 적절한 수학적 형식으로 표현하지 못한다면 그 아이디어는 제대로 이론으로까지 발전하지 못한다. 일반상대성이론도 예외는 아니었다.

등가원리에 따르면, 시간과 위치를 나타내는 좌표계를 어떻게 선택하더라도 그 꼴이 달라지지 않는 물리법칙은 어떤 방식으로든 중력과 연관이 있을 게 틀림없었다. 문제는 그 중력을 나타내는 수학적 함수, 즉 중력 퍼텐셜에 대한 서술이었다. 이제까지 중력을 나타낸다고 생각해 온 단순한 실수값 함수는 새로운 이론을 담기에 역부족이었다. 그렇다면 새 술을 담을 수 있는 새 가죽부대는 무엇일까?

그 새 가죽부대는 아인슈타인 대학 동창에게서 나왔다. 아인슈타인이 모교에서 교편을 잡게 되었을 때, 그의 대학 친구 마르셀 그로스만(1878-1936)이 수학과에 재직하고 있었다. 아인슈타인은 대학 시절에 배운 가우스의 곡면이론이 중요하리라는 직관이 있었지만, 당시의 아인슈타인은 가우스 이후의 미분기하학의 전개를 전혀 모르고 있었다. 아인슈타인이 그로스만에게 등가원리를 구현할 수 있는 이론이 필요하다고 말하자, 그로스만은 그에게 리만과 크리스토펠과 리치가 정돈한 리만 기하학이라는 새로운 미분기하학을 가르쳐 주었던 것이다. 

리만 기하학은 유클리드 기하학에 정면으로 맞서는 비유클리드 기하학이었다. 유클리드 기하학은 다섯 개의 공리에서 출발한다. 그 중 흔히 평행선 공리라고 부르는 다섯 번째 공리는 “한 직선과 그 직선 위에 있지 않은 한 점이 있을 때, 그 점을 지나면서 그 직선과 만나지 않는 직선은 오직 하나 존재한다”라는 긴 문장이다.(그림 2) “두 점을 모두 지나는 직선은 하나이다”라거나 “모든 직각은 똑같다”와 같은 다른 공리와 달리 이렇게 긴 문장은 공리가 아니라 정리일 것 같은 생각이 금세 들게 마련이다.

많은 수학자들이 평행선 공리를 다른 네 공리로부터 유도하려고 애썼다. 그들은 자신이 바로 평행선 공리를 나머지 공리들로부터 유도하는 데 성공했다고 믿었지만, 사실은 증명의 과정에서 자신도 모르는 사이에 평행선 공리와 동등한 다른 암묵적인 주장을 포함시킨 것이었다.

직접 평행선 공리를 가정하지는 않았지만, 가령 삼각형의 세 내각의 합이 180도임을 이용하거나 원주의 길이와 지름의 비가 원주율 즉 3.141592…임을 이용했는데, 이것은 평행선 공리와 동등하다. 증명을 하는 과정에서 증명되어야 할 주장을 포함시켜 버린 것이기 때문에 이러한 증명은 타당한 증명이 아니다.

수많은 실패가 잇따르자 근본적으로 새로운 시도가 시작되었다. 다섯 번째 공리가 꼭 필요한 경우도 있지만 상당한 경우에 다섯 번째 공리가 다른 공리들과 역할이 다르다면 아예 네 가지 공리만 가지고 완결된 기하학의 체계를 만들 수 없을까 하는 것이었다. 

이 이야기의 중심에는 위대한 독일의 수학자 칼 프리드리히 가우스(1777-1855)가 있다. 가우스는 정수론, 천체역학, 전기와 자기의 연구, 천문학, 함수론, 복소수론, 통계학 등 여러 분야에서 중요한 업적을 남겼지만, 특히 구면기하학을 깊이 연구했다. 구면 위의 기하학에서는 직선이 대원이 된다. 대원은 경도선처럼 구의 반지름과 같은 반지름의 원을 가리킨다. 이 경우 어느 직선 밖의 한 점을 지나는 직선은 모두 그 직선과 만날 수밖에 없기 때문에 평행선은 존재하지 않는다는 점에서 가우스의 곡면이론은 일종의 비유클리드 기하학으로 볼 수 있다. 

가우스가 비유클리드 기하학의 가능성을 탐구한 것은 1800년대 초부터였던 것으로 짐작된다. 그 내용은 알 수 없지만 게를링이나 슈마허 같은 동료 수학자들에게 보낸 편지에서 이를 확인할 수 있다. 특히 괴팅겐 대학 시절부터 우정을 지켜온 헝가리의 수학자 보여이 파르카시(1772-1856)와 주고받은 편지에서 이 문제를 자주 거론했다. 하지만 가우스는 그에 대해 아무런 논문도 발표하지 않았다. 

여기에는 가우스의 일상도 큰 영향을 주었다. 1817년 가우스는 병환 중에 있는 모친과 함께 살게 되면서 연구를 할 시간을 크게 뺏기게 되었다. 그 무렵 베를린 대학에서 초청을 받았지만 변화를 싫어하던 성격의 가우스는 괴팅겐에 남고 싶어 했기 때문에 베를린으로 옮기길 바라는 가족들과 불화가 심해졌으며, 1831년에는 둘째 부인과 사별했다.

바로 그 무렵 가우스는 보여이 파르카시의 편지와 그의 책 <텐타멘>을 받았다. 보여이 파르카시는 르장드르처럼 평행선 공리를 나머지 네 공리들로부터 유도하는 일에 엄청난 열정을 갖고 있었다. 보여이의 책 <텐타멘>에는 흥미로운 26쪽짜리 증명이 부록으로 담겨 있었다. 

그것은 그의 아들 보여이 야노시(1802-1860)가 쓴 것이었는데, 평행선 공리가 다른 공리들과 독립된 것이며 평행선 공리가 없는 별도의 기하학 체계가 존재한다는 것을 증명하는 내용이었다. 보여이 파르카시는 아들의 연구를 충분히 이해하지는 못했던 것으로 보이지만, 그 내용에 대해 가우스에게 평가를 부탁했다. 이상한 것은 가우스가 이에 대해 일언반구의 언급도 하지 않았다는 것이다.

실상은 가우스 자신이 아주 일찍부터 평행선 공리에 관심을 갖기 시작했고 1817년에 올베르스에게 보낸 편지에는 “나는 점점 더 유클리드 기하학의 필연성을 인간의 이성으로도 인간의 이성에 대해서도 증명할 수 없다는 확신을 얻게 되었습니다. 어쩌면 다른 세상에서는 공간의 본성에 대한 통찰을 얻을 수 있게 될지 모르지만 지금은 아닙니다.”라고 쓰고 있다. 1824년 무렵에는 평행선 공리를 도입하지 않는 기하학이 완결될 수 있음을 이미 증명한 상태였던 것으로 추측된다. 하지만 이미 가장 저명한 수학자의 반열에 있던 가우스는 알 수 없는 이유로 자신의 증명을 세상에 발표하지 않았다. 

비유클리드 기하학을 공식적으로 가장 먼저 발표한 것은 러시아의 수학자 니콜라이 로바체프스키(1792-1856)였다. 로바체프스키는 1829년 비유클리드 기하학의 한 형태인 쌍곡선 기하학을 발표했는데, 러시아어로 쓴 이 논문은 거의 주목을 받지 못했다. 1840년에 독일어로 쓴 논저를 가우스에게 보낸 후에야 비로소 로바체프스키의 새로운 연구가 학계의 관심을 끌기 시작했다.

1868년 이탈리아의 수학자 에우제니오 벨트라미(1835-1899)가 평행선 공리를 다른 공리들로부터 증명할 수 없다는 것을 증명하는 데 성공함으로써, 평행선 공리의 독립성은 이제 확립된 사실로 받아들여지고 있다.

보여이와 로바체프스키의 이론을 포함하여 비유클리드 기하학을 집대성한 것은 독일의 수학자 베른하르트 리만(1826-1866)이다. 그는 가우스의 제자였다. 독일은 박사학위를 받은 뒤 다시 대학에서 강의를 할 수 있는 권한을 부여받는 교수인정학위를 더 받아야 한다. 이를 위한 발표를 흔히 하빌리타치온 논문 또는 교수인정학위논문이라 부른다.

가우스가 세상을 떠나기 꼭 1년 전 제자 리만에게 교수인정학위로 부과한 주제는 기하학의 기초에 관한 것이었다. 1854년 28살의 리만은 괴팅겐 대학에서 “기하학의 바탕에 있는 가설들에 관하여”란 제목으로 하빌리타치온 논문을 발표했다. 불과 마흔 살에 세상을 떠난 리만은 수학에서 많은 업적을 남겼지만, 바로 이 교수인정학위논문을 정리한 새로운 이론이 바로 리만 기하학이다.

독일의 수학자 엘빈 브루노 크리스토펠(1829-1900)은 리만 기하학을 더 확장했다. 이탈리아의 수학자 그레고리오 리치-쿠르바스트로(1853-1926)와 그의 제자 툴리오 레비-치비타(1873-1941)는 소위 절대미분해석학이라고도 불리는 텐서 해석학을 만들어냈다. 1900년에 출판된 이 두 사람의 논문 “절대미분해석학의 방법과 그 응용”은 이후 텐서 해석학의 중요한 출발점이 되었다.

아인슈타인은 1912년 7월에서 8월초에 이르는 시기에 중력에 대한 탐구에 리만 기하학과 텐서 해석학을 직접 이용하기 시작했다. 유클리드 기하학에서는 두 점 사이의 거리가 이른바 피타고라스의 정리에 따라 정해지지만, 비유클리드 기하학에서는 거리라는 개념 자체를 새롭게 정의해야 한다.

리만 기하학에서 거리는 거리함수 텐서 또는 메트릭 텐서라 부르는 수학적인 양으로 정의된다. 따라서 비관성계에서만 나타나는 효과 또는 중력의 효과를 나타내는 수학적인 양은 틀림없이 이 거리함수 텐서와 관계될 것이라는 것이 아인슈타인의 생각이었다.

구면 위에서는 두 직선(대원)이 반드시 만나기 때문에 평행선의 공리가 성립하지 않는 것처럼, 리만 기하학과 같은 비유클리드 기하학에서는 대개 휘어진 곡면 또는 공간이 중심적인 개념이 된다. 일반상대성이론에서 가장 흔히 등장하는 개념 중 하나가 다름 아니라 휘어진 시공간인 까닭은 바로 시간과 공간에서 평행선의 공리가 성립하지 않기 때문이다. 

이제 드디어 일반상대성이론의 탄생이 눈앞에 다가 오고 있었다. 과연 리만 기하학을 사용하면 등가원리를 잘 확립된 이론으로 끌어올릴 수 있을까? 리만 기하학을 탄탄하게 준비한 아인슈타인은 1915년에 어떻게 중력과 세계에 대한 가장 근본적인 이론을 만들어낼 수 있었을까? 이것이 우리가 다음에 살펴볼 주제이다.

“모든 가속되는 좌표계가 동등하다면 유클리드 기하학이 모든 좌표계에서 성립할 리가 없다. 기하학을 내버리고 물리법칙을 간직하려는 것은 언어 없이 생각을 기술하는 것과도 같다. 우리는 생각을 기술할 수 있기에 앞서 언어를 찾아야 한다. 이 점에서 우리는 무엇을 찾을 것인가? 나는 이 문제를 계속 해결하지 못하고 있다가 1912년에 갑자기 가우스의 곡면이론이 이 수수께끼를 풀어낼 열쇠를 갖고 있음을 알아챘다. 그러나 당시에는 리만이 훨씬 더 심오한 방식으로 기하학의 기초를 연구했음을 모르고 있었다. … 

내가 프라하에서 취리히로 돌아갔을 때, 거기에는 나의 친애하는 벗이던 수학자 그로스만이 있었다. 나는 그에게서 처음으로 리치에 대해 들었고 나중에는 리만에 관해 들었다. 그래서 나는 내 벗에게 내 문제가 리만의 이론으로 해결될 수 있을지 물었다. 다시 말해서 선요소의 불변량들로부터 내가 줄곧 찾고 있던 양들이 완전하게 정해질 수 있을지 물었던 것이다.” 

– 아인슈타인 1922년 12월 일본 교토 초청강연 중에서