지난 12월 19일 서울에서 열린 세미나에서 어림 풀이(근사해, appoximate solution)의 문제가 나와서 무척 흥미로웠습니다.

12월 28일에 있을 아산 세미나에서도 이런 이야기가 나올 듯 싶어 몇 가지 나눌만한 이야기를 올려 놓습니다.

장회익 선생님의 <자연철학 강의>는 열 개의 그림(심학십도)을 통해 세상을 보는 가장 핵심적인 아이디어와 관념을 정리해 놓은 것이다 보니, 모든 것을 상세하게 다루고 있지 않습니다.

18세기 프랑스에서 드디 디드로와 장 달랑베르가 주도한 백과전서 운동에서 결국 166권의 방대한 백과사전(Encyclopédie, ou dictionnaire raisonné des sciences, des arts et des métiers)을 만들어냈지만, 그 후 여전히 거기에 포함되지 않은 새로운 이야기가 무궁무진하게 나온 것을 생각하면, 모든 것을 상세하게 다룬다는 것이 꼭 필요한 게 아닐 수도 있다는 생각이 듭니다.

그것이 바로 '어림 풀이'의 정신일 수도 있겠습니다. 실제적인 문제를 해결하기 위해서는 어림 풀이라 해도, 그리고 그 모양새가 아름답지 않다 해도 의미 있는 숫자들을 만들어내야 합니다. 당장 전쟁과 관련하여 포병부대에 많은 물리학자와 수학자들이 동원되었다는 것을 생각해 볼 수 있습니다. 처음으로 아인슈타인 방정식을 풀어냈던 슈바르츠쉴트도 1차대전 중에 포병부대에서 복무했고, 빅뱅 우주론(대폭발 우주론)의 첫 단계를 열었던 벨기에의 사제이자 천체물리학자 조르주 르메트르도 1차대전 무렵에 (제 기억이 맞다면) 포병부대에 있었습니다.

이와 관련하여 19세기 천체역학을 언급하는 것이 의미 있을 것 같습니다. 19세기에 천체역학이 얼마나 정밀하게 발전했는가를 보여주는 한 예는 퐁테쿨랑(Pontécoulant)의 계산입니다. 그는 <세계체계의 해석적 이론>(Théorie analytique du système du monde, 1829-1846)에서 행성의 운동을 미세하게 바꾸는 섭동항을 이심률과 경사도의 6차까지 계산하였으며, 퍼스(Benjamin Peirce)도 1849년에 <천문학저널>(Astronomical Journal)에 6차까지의 계산결과를 논문으로 발표했습니다.

해왕성을 발견한 것으로 잘 알려진 르베리에(Urbain Jean Joseph LeVerrier, 1811-1877)는 1855년에 <파리 천문대 연보>(Annales de l’Observatoire de Paris)에 7차까지의 계산결과를 발표했습니다. 주목할 점은 섭동이론을 써서 이와 같은 근일점 이동을 대단히 정교하게 예측하고, 다시 대단히 정밀한 관측결과와 비교할 수 있었던 것이 당시의 수준이었다는 점입니다.

특히 뉴턴 역학이 아니라 이를 가장 일반적인 방식으로 체계화한 라그랑주 역학과 해밀턴 역학으로 가면, 이렇게 아름답고 정교하고 포괄적인 이론이 또 있을까 싶을 정도입니다. 실제적인 풀이 대신 이론의 정합성과 체계성에 주목한다면, 1899년 윌리엄 톰슨이 물리학자의 하늘은 대단히 맑아서 모든 것을 알아냈다고 선언할 정도로 엄청난 것이었습니다.

그러나 이렇게 200년 넘게 명성을 떨치던 고전역학에 균열이 생기게 된 첫 번째 난점이 삼체문제에서 튀어나왔습니다. 삼체문제가 워낙 악명 높긴 하지만, 완결된 깔끔한 풀이가 없었을 뿐 어림 풀이는 대단히 정교하게 나와 있었습니다.

그래도 워낙 난해한 주제인지라 1885년 스웨덴-노르웨이 국왕 오스카 2세의 60회 생일을 기념하기 위해 열린 수학 콩쿨대회의 주제가 바로 삼체문제로 선정되었습니다. 여기에서 최종 우승한 사람이 바로 앙리 푸앵카레였죠.

천체물리학 연구를 위한 새로운 방법을 찾아내 적용하려 한 매우 의미심장한 시도였고, 심사위원들도 모두 푸앵카레의 연구를 높이 평가했습니다.

"그러나 1889년 7월, 미탁-레플러(Mittag-Leffler) 아래에서 <악타 마테마티카>의 편집자로 일하고 있던 스물 여섯 살의 스웨덴 수학자 에드바르 프라지멩(Edvard Phragmén)은 입상한 논문의 교정쇄에서 몇 가지 문제점을 발견했다. 그는 이를 미탁-레플러에게 전달했고, 미탁-레플러는 7월 16일 푸앵카레에게 그 오류 중 하나만을 제외하면 “나머지는 거의 순식간에 없어지게 만들 수 있다”고 사뭇 명랑한 어조로 이야기했다. 푸앵카레는 그 한 가지가 쉽게 고쳐지지 않는 것임을 금방 알아차렸다. 이는 인쇄상의 실수도 아니고 단순히 몇 줄의 수학공식을 더 집어넣는다고 해서 해결될 문제도 아니었다. 그의 논문에서 무엇인가가 심각하게 잘못된 것이었다. 단순히 입상이 문제가 아니라, 그와 학술지와 심사위원들의 명성 모두가 걸린 문제였다. 푸앵카레는 무엇이 잘못되었는지 알아내어야만 했다." (피터 갤리슨 <아인슈타인의 시계, 푸앵카레의 지도> 중에서)

미묘한 점이 있긴 하지만, 단순히 어림 풀이가 얼마나 정확한가 하는 것이 아니라, 약간만 초기조건이 달라지면 전체 풀이의 모양새가 크게 달라져 버릴 수 있다는 근본적인 문제를 알게 된 것입니다. 흔히 카오스 이론의 첫 번째 문이 열렸다고 평가하기도 합니다.