앞에서 상태함수가 사실은 상태 벡터라는 말을 던졌습니다. 상태 벡터들을 모아 놓은 집합을 벡터 공간이라 부릅니다. 그리고 그 벡터 공간에서도 양자역학과 직접 맞닿는 것을 힐버트 공간이라 부릅니다.

힐버트 공간이라는 이름이 붙은 이유는 저명한 수학자 다비트 힐버트(David Hilbert 1862-1963)가 그 개념을 처음 제시했기 때문입니다.

힐버트는 20세기 초 가장 왕성하게 활동하던 수학자이지만, 실상 물리학에서도 많은 중요한 업적들을 남겼습니다. 일반상대성이론도 힐버트의 기여가 막중하고, 양자역학도 처음부터 힐버트의 기여가 컸습니다.

상태함수와 상태 벡터의 관계를 해명하고, 이를 다시 벡터 공간과 연결시키는 것은 그 자체로 만만치 않은 일입니다. 일단 지금은 최근에 제가 다른 곳에 보낸 원고에 있는 내용을 그대로 가져와서 올리려 합니다. 나중에 시간이 허용하는 대로 더 다듬어 보겠습니다.

----------------------

그렇다면, 이렇게 점점 영향력을 넓혀 간 벡터는 벡터 공간과 어떤 관계일까? 헤비사이드는 책의 서문에서 지나가듯 그라스만이라는 이름을 언급했는데, 기브스는 그라스만의 저서를 여러 차례 인용하면서 그라스만을 벡터 이론의 선구자로 직접 거명했다. 헤르만 그라스만(Hermann Günther Graßmann 1809-1877)은 해밀턴이 사원수 개념을 처음 생각해 낸 이듬해인 1844년에 <선형 확장 이론, 수학의 새로운 분야 Die lineale Ausdehnungslehre, ein neuer Zweig der Mathematik>라는 책을 냈다. 이 책은 선형대수학의 근간을 마련하고 비가환 기하대수의 기반을 놓은 매우 선구적인 이론을 담고 있었다.



그라스만은 독일 자연철학과 변증법 철학의 영향을 강하게 받고 있었으며, 기하학과 대수학의 변증법적 통합을 통해 완전히 새로운 종류의 수학을 창안해 내려 했다. 그러나 대학에서 철학과 언어학을 전공한 그라스만은 수학을 독학으로 공부했고 대학에 적을 두지 않았다. 그의 문체는 당시 수학책들의 문체와는 확연하게 달랐다. 또 라틴어 어원이 아닌 독일어를 사용하여 새로운 용어를 만들어냈다. 이 책이 나왔을 무렵 이 저서를 이해하고 그 의의를 알아낼 수 있던 수학자는 별로 없었다. 이 책이 너무 장황하고 철학적이라서 도무지 읽을 수 없다는 비판을 의식하여 1862년에 낸 개정판 <(완전하고 더 강한 형식으로 기초를 갖춘) 확장이론 Die Ausdehnungslehre. Vollständig und in strenger Form begründet>은 책 전체를 정의와 정리와 증명의 체계로 서술했지만, 독자들은 더 무관심했다.

그라스만은 ‘n개의 계단이 있는 영역(Gebiet n-ter Stufevector)[벡터 공간]’에 있는 ‘확장적인 양(extensive Größe)[벡터]’을 ‘단위들의 계(System von Einheiten)[기저]’로 나타낼 수 있다는 급진적인 아이디어를 제시했다. 그는 이 ‘확장적 양’의 덧셈과 곱셈 등을 정교하게 정의하고 처음의 원소로부터 다른 원소를 생성하는 규칙을 제시하고 이러한 일련의 논의를 통해 지금 우리가 알고 있는 선형대수학의 주요 정리들을 얻어냈다. 그러면서도 가령 직선이나 점과 같은 기하학적 개념을 사용하지 않았다. ‘영역의 계단 수(Stufenzahl eines Gebiets)[차원]’는 아무 자연수나 허용되었다. 3차원 유클리드 공간을 기정사실로 받아들이고, 기껏해야 사원수를 통해 4차원 공간의 가능성을 모색하던 시절에 임의의 n차원 공간을 말하고 있었고, 기하학과 대수학이 서로 맞물려 전혀 새로운 이야기로 펼쳐지고 있었다. 게다가 한술 더 떠서 ‘확장적 양’과 ‘확장적 양’을 쐐기 모양의 곱(∧)을 써서 ‘영역의 계단 수’가 많아진 양을 만들어내는 새로운 대수학이 상세하게 논의되었다. 직선과 직선을 곱하면 평면이 되고, 평면과 평면을 곱하여 새로운 대상을 만들어낼 수 있다는 것이다.



1888년 쥐세페 페아노(Giuseppe Peano 1858-1932)는 <그라스만의 확장이론에 따른 기하해석학 Calcolo geometrico secondo l'Ausdehnungslehre di H. Grassmann>에서 ‘선형 계(sistema lineare)’라고 이름붙인 벡터 공간의 공리라 할 수 있는 것을 처음 제안했다. 또 ‘일차 변환(operazione distributive)’의 개념을 정립했다. 이탈리아에서는 페아노의 영향을 받아 체사레 부랄리-포르티(Cesare Burali-Forti 1861-1931)나 살바토레 핀케를레(Salvatore Pincherle 1853-1936) 등이 ‘선형 계’ 이론을 함수해석학으로 발전시켰다.

지금과 같은 의미로 벡터 공간의 이론을 정립한 것은 헤르만 바일(Hermann Weyl 1885-1955)이었다. 바일은 1918년에 출판된 <공간, 시간, 물질: 일반상대성이론 강의 Raum. Zeit. Materie. Vorlesungen über allgemeine Relativitätstheorie>에서 그라스만의 ‘확장적 양’을 ‘벡터 Vektor’로 불렀다. 바일은 일반상대성이론과 리만기하학에 따라 시간과 공간을 다루기 위해 그라스만을 인용하면서 벡터 공간을 다룬 것이었다.

수학계에서 벡터 공간이 제 자리를 잡게 된 것은 폴란드의 수학자 스테판 바나흐(Stefan Banach 1892-1945)와 미국의 수학자 노버트 위너(Norbert Wiener 1894-1964)와 오스트리아의 수학자 한스 한(Hans Hahn 1879-1934)을 통해서였다. 바나흐는 박사학위논문 “추상 집합에서의 연산과 이를 적분방정식에 응용하는 것에 관하여”(1920)에서 노음이 있는 벡터 공간 가장 일반적인 방식으로 정의하고 그 성질을 밝혔다. 바나흐는 노음이 있는 벡터 공간을 ‘추상집합(ensemble abstrait)’이라 불렀는데, 그 구체적인 사례로 벡터, 그라스만의 일반형식, 사원수, 복소수 등을 들었다. 위너는 1920년 스트라스부르에서 열린 세계수학자대회에서 ‘벡터계 vector system’라는 이름으로 벡터 공간의 공리체계를 발표했다. 한은 1922년에 ‘선형 공간 linearer Raum’의 이론을 발표했다.

벡터 공간이 물리학계에서 다시 다루어지게 된 것은 양자역학 때문이었다. 하이젠베르크, 보른, 요르단의 행렬역학과 슈뢰딩거의 파동역학과 디랙의 변환이론이 새롭게 등장하고 있던 무렵, 독일 괴팅겐 대학의 다비트 힐버트는 1926/27년 겨울학기에 양자역학의 수학적 기초에 관한 세미나 수업을 개설했다. 세미나에서 다룬 내용을 로타르 노르트하임(Lothar Wolfgang Nordheim 1899-1985)이 정리하고, 요한 폰노이만이 함수해석학 내용을 덧붙여 독일수학회지 Annalen der Mathematik에 발표한 것이 1927년 4월이다. 힐버트는 제곱적분가능한 함수들의 집합의 성질을 연구해 오고 있었고, 폰노이만은 새롭게 등장한 요르단과 디랙의 양자역학의 수학적 토대가 거기에 잘 어울린다는 것을 알아챘다. 특히 폰노이만은 원자의 상태를 나타내는 수학적 대상들이 벡터 공간을 이룬다는 놀라운 아이디어를 생각해 냈다. 파동함수나 무한차원 행렬을 벡터 공간에 포함시키기 위해서는 완비성의 조건을 비롯하여 해결해야 할 문제가 더 있었지만, 여하간 내적이 있는 벡터 공간이 그러한 수학적 서술에 알맞다는 것을 밝힌 것이다. 이것이 ‘힐버트 공간’의 탄생이다. 폰노이만은 1927년에 괴팅겐 수학 및 물리학회 학술대회에서 “양자역학의 확률이론적 구조”와 “양자역학의 수학적 기초”를 발표했다. 1930년에 발표된 “에르미트성 함수연산자의 일반 고유값이론”과 1932년에 출판된 저서 <양자역학의 수학적 기초>를 통해 내적 벡터공간은 양자역학의 기본언어로 굳게 자리를 잡게 되었다.

1939년 이 이야기의 반전이 일어난다. 폴 디랙은 그해 4월 <양자역학의 새로운 기호법>이란 제목의 논문을 Mathematical Proceedings of the Cambridge Philosophical Society에 투고했다. 양자역학에서 상태를 나타내는 힐버트 공간의 벡터를 그리스 문자 나 로 나타내는 대신 나 로 나타내자고 제안하면서, 벡터라는 말 대신 ‘브라 bra’와 ‘켓 ket’을 쓰자고 제안했다. 간신히 물리학자의 언어 속에 들어온 벡터의 의미가 아름답게 확장되기 시작했다.

물리학에서 새로운 현상을 설명하고 새로운 이론을 창조해 가는 과정에서 새로운 기호법을 만들고 그 기호를 일상의 언어로 사용하는 것이 매우 중요하다. 전통적인 데카르트 좌표계 성분 표시를 넘어서는 해밀턴의 ‘벡터’는 사원수라는 거창한 외양에 가려 일상의 언어로 확장하지 못하고 있었지만, 기브스와 헤비사이드 덕분에 깔끔하고 간결한 언어로 재탄생했다.

그라스만의 탁월한 창의성이 만들어낸 선형대수학과 벡터공간이라는 멋진 언어가 이 간결한 언어와 만나 세계를 이해하고 알아가는 과정의 멋진 언어로 정착한 것은 지난 200년간 인류의 유산 중에서도 어쩌면 가장 거대하고 심원한 것이 아닐까?