변화의 원리와 미적분

neomay33님이 "뉴턴이 미분법을 만들 수 밖에 없었던 것일까요?"라고 질문을 하셨는데, 제가 생각하는 대답은 "그렇기도 하고 아니기도 하다."입니다. 제가 '아니오'라고 답하는 이유는 변화와 생성의 문제가 뉴턴 무렵에 갑자기 툭 튀어나온 문제가 아니기 때문입니다. 그리고 여러 면에서 이후의 미분법과 적분법의 전개는 뉴턴의 방식이 아니라 라이프니츠의 기호법과 방식을 따라 발전했기 때문에, 후대의 영향은 라이프니츠가 압도적으로 큽니다. (뉴턴이 라이프니츠와의 우선권 논쟁에서 라이프니츠의 제자를 돈으로 매수하는 파렴치한 방법으로 런던 왕립협회 청문회의 명예를 실추시킨 것은 유명한 일화이지만, 후대의 영향 면에서도 뉴턴의 기여는 작다고 할 수 있습니다.)

세상 만사의 이치를 변화에 대한 탐구로 이해할 수 있다는 사고는 르네 데카르트와 아이작 뉴턴, 그리고 장현광보다 훨씬 먼저 고대 그리스 자연철학에서 상세하게 이야기되었습니다. 변화와 생성을 부정한 엘레아의 파르메니데스와 그 제자들(특히 제논)의 주장에 반대하여 헤라클레이토스는 세상 만사의 본질은 바로 변화에 있음을 주장합니다. 아리스토텔레스는 이러한 소크라테스 이전 자연철학의 논쟁을 수용하여 변화의 기본 원리와 방식을 ‘자연론(타 퓌시카 τὰ φυσικὰ)‘과‘자연론 속편(타 메타 타 퓌시카 τὰ μετὰ τὰ φυσικὰ)’에서 정교하게 다루었습니다. 여기에 그 유명한 형상원인, 질료원인, 운동원인, 최종원인(목적원인)에 대한 논의가 포함됩니다.

데카르트는 이 중 운동원인에 주목합니다. 아리스토텔레스에게서 ‘운동(運動 모투스 motus)’은 사실상의 모든 변화를 가리키는 말이었는데, 이를 ‘위치의 변화(모투스 로칼리스 motus localis)’로 국한시키자고 제안했습니다.

온라인 세미나에서도 언급되었지만, 데카르트는 널리 알려진 <제일철학에 대한 성찰>과 <철학의 원리>보다 앞서서 <방법에 대한 논의(방법서설)>을 먼저 썼습니다. 이 <방법서설>에 대해 철학사학자들은 그 서문에 해당하는 글만을 읽는 경향이 있는데, 실상 그 서문은 <방법서설>의 뒤에 있는 기하학, 굴절광학, 기상학을 위한 연구방법을 총론 격으로 다룬 것이었고, 기하학, 굴절광학, 기상학이 중요한 내용을 이룹니다. 또 데카르트는 1637년에 간행된 <방법서설>보다 앞서 1630년 무렵부터 <세계와 빛에 대한 논고 (Traité du monde et de la lumière)>를 집필했습니다. 대략 1633년쯤에는 탈고한 것으로 보고 있습니다. 이 원고는 데카르트가 세상을 떠난후 1664년에야 비로소 출간되었지만, 이미 이 안에 운동에 관한 데카르트의 주장이 잘 정리되어 있습니다.

<방법서설>의 부록의 형태로 있던 "기하학(La Géométrie)"은 대수학의 방법으로 기하학의 문제를 풀 수 있음을 처음 제안하고 이를 상세하게 다룬 것으로 널리 알려져 있지만, 동시에 변화의 문제를 이해하기 위한 중요한 디딤돌 역할을 했습니다. 라이프니츠가 미적분법에 대한 생각을 발전시켜 변화 일반의 문제를 다룰 수 있는 수학적 도구를 만들어내게 된 동기 중에 데카르트의 이 저작이 있습니다. 물론 아이작 뉴턴도 이 책을 깊이 탐구했습니다.

위에서 간단하게 쓴 것처럼 변화와 생성의 문제는 소크라테스 이전 자연철학자들에게 가장 중요하고 핵심적인 과제였습니다. 나름의 방식으로 그 문제를 해결하여 정리한 것이 아리스토텔레스였는데, 이 아리스토텔레스의 자연철학은 8세기 이후 이슬람 자연철학으로 옮겨갑니다. 아리스토텔레스와 에우클레이데스(유클리드)와 아르키메데스를 비롯한 고대 그리스 자연철학의 성과가 모두 아랍어로 번역되고 이를 기반으로 이슬람의 자연철학자들이 변화의 문제를 깊이 탐구합니다. 일상 언어로 된 서술뿐 아니라 다양한 기하학의 방법이 사용되었습니다.

약간 과장이 될 수도 있지만, 변화의 문제를 곡선으로 표현할 수 있다는 점은 15세기에도 종종 이야기된 화제였습니다. 그런데 곡선이라는 것은 전체적으로 볼 때 다루기가 어렵지만, 짧은 구간만 생각하면 짧은 직선들이 연결되어 있다고 생각할 수 있습니다. 그래서 곡선을 짧은 직선들로 바꾸어 생각하자는 것이 소위 접선의 문제입니다. 이 대목에서 데카르트와 동시대 사람이었던 피에르 드 페르마((Pierre de Fermat 1607-1665)가 등장합니다. (페르마의 출생년도는 오랫 동안 1601년으로 되어 있었는데, 최근에야 유아세례 기록과 여러 가지를 비교하여 1607년으로 수정되었습니다.)

실상 페르마는 데카르트의 <기하학>이 출간된 1637년보다 한 해 앞서 Methodus ad disquirendam maximam et minimam et de tangentibus linearum curvarum라는 제목의 원고를 완성하여 주위에 배포했기 때문에 해석기하학을 창시한 공로는 페르마와 데카르트 두 사람 모두에게 돌립니다. 당대에는 누구에게 선취권을 인정할 것인가를 놓고 치열한 논쟁도 있었습니다. 페르마의 원고는 바로 곡선에서 최대가 되는 점과 최소가 되는 점, 그리고 어느 점에서 그 곡선에 가장 가까운 직선(즉 접선)을 구하는 방법을 상세하게 다루고 있어서, 실상 미분법의 효시라 할 만합니다. 흥미로운 것은 페르마가 이런 아이디어를 발전시키게 된 것이 그보다 앞선 시대의 프랑스의 수학자 프랑수와 비에트(François Viète 1540-1603) 덕분이라는 점입니다. 페르마는 전문적인 수학자가 아니라 고대그리스어, 라틴어, 이탈리아어, 스페인어, 프랑스어, 로망스어에 능통한 법률가이자 일종의 외교관으로서 수학 연구는 일종의 취미활동이었는데, 비에트가 남긴 저서들이 큰 역할을 했습니다.

뉴턴의 지도교수격이었던 아이작 배로우는 유율법(method of fluxion)이라는 것을 만들어서 변화와 관련된 문제를 해결할 수 있다고 생각했습니다. 배로우는 케임브리지 대학 트리니터 컬리지의 제1대 루카스 석좌교수였습니다. 제2대가 바로 뉴턴이었고, 배로우가 자신의 자리를 영특하고 오만한 젊은 학생에게 물려준 셈이었습니다. 배로우는 뉴턴이 학위논문을 쓰지 않고도 졸업할 수 있게 도와 주었으며("이 대학에는 이 청년을 지도할 수 있는 능력을 지닌 교수가 없다."), 뉴턴이 교수로 취임할 때 신앙고백의 절차 때문에 겪을 수도 있었던 어려움을 피하는 데 결정적 역할을 했습니다. 무엇보다도 자신이 개발한 유율법의 아이디어를 고스란히 뉴턴에게 전수해 주었습니다. 뉴턴은 배로우의 유율법을 발전시켜 미분법의 기반을 닦았습니다.

이렇게 보면 뉴턴이 후크에게 보낸 편지에서 "내가 멀리 볼 수 있었다면, 그것은 거인의 어깨 위에 앉아 있었기 때문이다."라고 적을 때, 그 거인은 가까이는 데카르트와 페르마와 배로우이지만, 멀리 보면 이슬람 자연철학자들과 고대 그리스까지 거슬러 올라갈 수 있을 것 같습니다.

또 뉴턴 자신은 <자연철학의 수학적 원리>에서 변화의 문제를 핵심에 두지 않았습니다. 그 책을 읽어보는 사람은 누구나 느낄 것 같은데, 저는 그 책을 전체적으로 읽으면서 책 전체가 잘 짜여진 수학책이라는 인상을 강하게 받았습니다. 물론 공리, 정의, 정리, 명제, 증명 등과 같은 형식으로 구성된 탓이기도 하겠지만, 그 책에서 '변화의 문제'를 추려내기는 쉽지 않습니다.

소위 '고전역학'에서 '변화의 문제'를 직접적으로 드러낸 것은 19세기 아일랜드의 수학자 윌리엄 로원 해밀턴이었습니다. 운동법칙 일반이 아니라 상태의 변화에 주목했던 것이죠. 그래서 저는 고전역학을 뉴턴역학이라 부르는 것이 부적합하다고 생각하고 있습니다.

미적분학의 역사를 다룬 고전으로

Carl B. Boyer (1955). The History of the Calculus and Its Conceptual Development.

가 유명합니다. 이 책의 2장은 "고대의 개념들"이고 3장은 "중세의 기여", 4장은 "세기의 기대"입니다. 5장에 가서야 비로소 "뉴턴과 라이프니츠"가 등장합니다. 간략하게 말하자면, 이미 고대 그리스와 중세 이슬람 및 중세 유럽 대학에서 미적분학과 관련된 여러 단초들이 있었고, 또 14세기부터 변화의 문제가 자연철학자들의 주된 관심이 되면서 미적분학으로 이어지게 되는 계기들이 많았다는 이야기입니다. 또 뉴턴-라이프니츠 이후에도 다시 더 정교하고 체계적인 방식으로 미적분학이 발전했으니까, "뉴턴이 미분법을 만들 수 밖에 없었던 것일까요?"라는 질문에 대한 대답은 그렇다와 아니다가 혼재할 수밖에 없을 것 같습니다.