푸앵카레-<과학과 가설>의 서문

이 글은 수학자 앙리 푸앵카레의 저서 <과학과 가설 La Science et L’Hypothesis>의 서문을 옮긴 것이다. 잘 알려져 있듯, 푸앵카레(Jules-Henri Poincaré, 1854-1912) 는 19세기말에서 20세기 초까지 활동했던 프랑스의 수학자다. 그는 최근에 풀렸다는 ‘푸앵카레의 추측’으로 유명하고, 삼체문제에 대한 연구를 통해 결정론적 복잡계를 발견했고, 이 연구는 훗날 카오스이론의 기초가 되었다. 하지만 수학자로서의 푸앵카레의 모습 이외에, 그가 남긴 자연과학과 수학 전반에 걸친 비평들, 나아가 자연철학자로서의 그의 모습은 잘 알려져 있지 않다. 그는 30여권이 넘는 과학에 관한 저서를 남겼다고 알려져 있고, <과학의 가치>, <과학과 방법>, <최후의 명상>등과 같은 작품 등의 과학사상 총서를 발표했는데, <과학과 가설>은 이러한 총서 중 한 권으로 발표되었다.

이 서문은 책의 전체내용을 요약하고 있다. 서문을 읽고 과학에 대해 품고 있던 평소의 생각들이 더 깊어질 것 같다면, 혹은 -푸앵카레가 별로 깊이 생각하지 않는 사람들의 과학에 대한 상을 꼬집은 것처럼- 자신이 생각하던 것과 다른 점을 발견한다면 책을 읽어 볼만한 가치가 있다. 서문에서 밝히고 있듯이, 푸앵카레는 고전역학을 비롯해서 비유클리드 기하학, 그리고 그가 생존했던 당시 막 발전하던 전자기학의 예들을 통해 과학에서 가설이 어떤 위치를 차지하고 있는지를 보여주고 있다. 각 장은 수학에서 전기역학에 이르는 경로를 따라 과학과 가설의 관계, 그리고 푸앵카레가 생각하는 과학의 본질뿐 아니라, 그의 사상들의 단면을 보여주고 있으므로 천천히 읽어보는 것도 도움이 될지 모르겠다. 하지만 평소 수학이나 과학과는 담을 쌓고 지내는, 특히 과학사에 대한 지식이 거의 전무한 독자라면 책을 읽고 무언가를 얻기 쉽지 않다. 그만큼 쉬운 책은 아니라는 뜻이다. 하지만 그렇다고 해서, 포기하라는 것은 아니고, 괴델이 아인슈타인의 책을 읽겠다는 어머니에게 말했던 것처럼 처음엔 공식 같은 것은 그냥 넘기며 한번 통독하면 될 일이다. 하지만 평소에 과학이라는 학문체계에 대해 피상적인(예를 들어 과학에 대해 논하는 인문학 교수가 기껏해야 토마스 쿤의 정상과학의 정의를 논문에 인용한다던가) 개념만 가지고 있는 이들은 이 책이 말하고자 하는 바를 이해하기 어려울 것 같다. 오히려 나는 현장에서 일하고 있는 과학자들에게 이 책을 권한다. 워낙 오독이 심한 기타학문의 종사자들은 유클리드 기하학이 ‘규약’에 불과하다는 푸앵카레의 말을 듣고 수학이 마치 규약들의 집합인 것처럼 ‘전유’하실지도 모르니 말이다. “힘을 운동의 원인이라고 할 때는 과학이 아니라 철학을 하는 것이 된다….(과학에서) 중요한 것은 힘이 무엇인가를 아는 것이 아니고, 힘의 측정법을 아는 것이다(6장 고전역학)”라는 말의 뜻을 그들은 이해하지 못할 것이며, “경험은 선택하는 것을 강요하지 않고 오히려 유도하는 것이다(제 4장 공간과 기하학)”의 뜻도 이해하지 못한다.

수학과 관계된 부분이 어려운 독자들은 제6장의 ‘고전역학’과, 제9장의 ‘물리학에서의 가설’은 꼭 읽어보았으면 한다. 아마 제 9장만 진지하게 읽어보아도 푸앵카레가 말하고자 하는 것이 무엇인지 명확해지리라 믿는다. 푸앵카레와 비슷한 생각을 가지고 그의 생각을 발전시킨 것으로 보이는 학자는 라이엔바흐다. 푸앵카레는 확률론을 다루는 부분에서 머뭇거리고 있는데, 라이엔바흐는 베를린에서 확률론의 발전을 지켜보며 그것과 과학의 관계를 철학적으로 진일보시켰다. 물론 과학에서의 확률혁명을 다룬 전문적인 저서들이 있고, 지금 이 곳에서 통계학과 교수님과 그 책을 스터디 중이지만, 그런 책까지 현장의 과학자들이 읽는 것이 어떤 도움이 될지는 나로서는 잘 모르겠다. 푸앵카레는 ‘수학과 실재’를 다루는 수리철학의 영역에서 경험론자로 인식되는데, 반드시 그런 것만은 아니라는 걸 이 저서를 읽으면 알 수 있을 지 모른다. 수학적 실재론에 관한 논쟁들은 박우석 교수를 통해 접근하면 꽤나 흥미롭고 재미있는 글들을 접하게 될지 모른다. 그 곳에서 다시 푸앵카레를 만난다면 그것도 좋은 공부가 될 것이다. 콰인과 퍼트남의 ‘필요불가결성 논제’라는 틀을 통해 접근하게 되면, 수학과 과학의 관계는 무엇인지, 도대체 수학과 현실의 관계는 무엇인지에 대해 정말 많은 학자들이 진지하게 논의해온 새로운 분야를 만나게 될지 모른다.

라깡도 말년에 수학에 꽤나 관심을 기울였다는데, 그 제자들이라는 사람들이나, 오파상쯤 되는 이들을 보면 수학에는 별반 관심이 없어 보인다. 뭐 원래 예수가 뭘 가르쳤다고 해봐야, 목사들이 그걸 다 망쳐놓는 거나 별반 다를 바는 없어 보인다. 그들이 알아서 할 일이다. 그런데 적어도 보통 역사에 남는 학파의 거두가 되는 이들은 학문의 방법론에 대한 치열한 고민들을 했다. 푸앵카레도 그러한 인물 중 하나이고, 라깡도 그렇다. 요즘 가끔 라깡과 관련된 텍스트들을 읽으며 그에 대해 느끼는 감정이 바로 그 방법론에 대한 치열한 관심이자, 그의 진지함이다. 그런데 한국엔 그런 거 없다. 

강조는 내가 했다. 그 부분이라도 좀 읽었으면 하는 사람이 있어서. 편역자가 밝혀두었듯이 이 책은 “자연과학도가 아니더라도 학문이 과학적이어야 하는 한, 사회과학이나 인문과학에 있어서도 스스로의 가설이 어떻게 세워진 것인지를 알려주는 데 충분하다고 생각되기” 때문이다.

피상적인 관찰자에게는 과학의 진리란 의심할 여지조차 없는 것으로 생각될 것이다. 과학상의 논리는 틀리는 일도 없고, 학자가 때때로 잘못 생각하는 일은 있더라도 그것은 논리의 규칙을 잘못 본
것에 지나지 않는다고 생각할 것이다.

수학상의 진리는 소수의 자명한 명제에서 결점이 없는 추리의 쇠사슬로 유도되어 나온다. 이러한 명제 앞에서는 단순한 우리들뿐만 아니라 자연 그
자체도 복종하지 않으면 안 된다. 말하자면 창조주도 스스로의 원칙에 묶이어, 단지 비교적 소수의 풀이 사이에서만 선택할 권리를 가질 수 있다고 말할 수 있겠다. 그러므로 신이 어떠한 선택을 하였는가를 알려고 한다면 몇 가지의 시도만으로도 충분하다. 우리가 이러한 하나하나의 시도로써 수학적 연역의 한 조를 만들면 다수의 귀결을 유도할 수 있을 것이다. 이렇게 해서 그 어떤 하나의 시도라도 결국은 우리에게 우주의 한 부분을 알게 하여 줄 것이다.

세상의 많은 사람들, 특히 물리학의 초보를 배우고 있는 중/고등 학생들은 과학의 확실성의 기원에 대해 다음과 같이 생각하고 있을 것이다. 즉, 실험이나 수학의 역할을 매우 확실한 것으로 이해하고 있을 것이다. 약
백 년 전에만 해도 많은 학자들이 경험으로부터는 될 수 있는 한 적은 재료만을 전제로 하여 세계를 구성하려고 꿈꾸었는데 이런 것도 이와 마찬가지로 생각하였기 때문이다.

그러나 조금이라도 깊이 생각하는 사람들은, 가설이 차지하는 범위가 얼마나 넓은가 하는 것을 알아 차릴 것이다. 수학은 가설 없이는 이루어질 수
없고, 실험과학은 더욱 그러하다는 것을 알게 될 것이다. 그래서 과연 이 모든 구축이 매우 견고한 것인가 어떤가를 의심할 뿐 아니라, 약간의 바람이 불어도 쓰러져 버린다고 믿기에 이르렀다. 이와 같이 회의적으로 되는 것은 아직은 피상적이라고 할 수 있겠다. 모든 것을 의심할 것인가? 모든 것을 믿을 것인가? 두 가지 다 편리한 해결방법이긴 하다. 그러나 어느 쪽이든 그것은 우리가 반성하지 않으면 안 되는 문제이다.

그러므로 우리는 간단하게 판결을 내릴 것이 아니라 가설의 역할을 세밀히 검토해 보아야만 할
것이다. 이렇게 하면 가설의 역할이 얼마나 필요하며 또한 그 가설 밑에서는 대개의 경우 정당하다는 것도 인정하게 될 것이다. 가설에는 여러 가지 종류가 있다. 어떤 종류의 가설은 검증할 수 있고, 실험에 의해서 한번 확인되면 그 결과가 많은 진리를 생성한다. 또 어떤 것은 우리로 하여금 오류에 빠지지 않도록 하면서도 생각에 근거를 주는 역할도 한다. 또한 제 3의 종류로서는 외관상으로만 가설일 뿐, 단지 정의나 규약에 지나지 않는 것도 있다.

이
제3종의 것은 특히 수학이나, 수학과 밀접한 관계가 있는 과학에서 자주 쓰게 되는 것이다. 이러한 과학은 바로 수학적 규약에서 엄밀성을 얻고 있는 것이다. 이 규약이야말로 우리의 이지(理智)의 자유로운 활동의 산물이다. 이러한 영역 안에서는 아무런 장애도 있을 수 없는 것이다. 여기서는 우리의 이지가 명령을 내리는 것이므로 모든 것을 단정할 수 있기도 하다. 그러나 미리 말해두지만 이 명령에 복종하는 것이 우리의 과학이고, 그 명령 없이 우리의 과학은 불가능하게 되는 것이다. 그러나 자연은 여기에 복종하지 않는다. 그러면 이 명령은 아주 제멋대로인 것일까? 그렇지는 않다. 만일 제멋대로라고 하면 결코 그 명령은 결과를 낳지 못할 것이다. 경험은 우리에게 자유선택을 허용하고 있지만, 가장 편리한 길을 간파하는 힘을 우리에게 주어 그 선택을 유도하여 준다. 그렇기 때문에 이러한 명령은 귀족원에 의견을 묻는 현명한 절대군주의 명령과도 같은 것이다.

과학의 기초적인 원리 안에 이와 같이 자유로운 규약적인 특징을 발견하고 놀라는 사람도 있을 것이다. 이러한 사람들은 극단적인 보편화를 바라는 나머지 자유가 제멋대로일 수
없다는 사실을 잊어버렸다. 이렇게 하여 이 사람들은 소위 유명론이라고 하는 것에 도달한다. 학자가 자기의 정의에 속는 일은 없는가, 또 학자가 발견하였다고 믿었던 세계가 단순한 변덕에 의해서 변하는 것은 아닌가 하고 의심하기에 이르렀다. 그러고 보면, 과학은 확실하기는 하지만 전혀 실재성이 없는 것이 될지도 모른다.

만일 그렇다면 과학은 무력한 것이어야 할
것이다. 그런데 우리는 매일 우리의 눈으로 과학이 활동하고 있는 것을 보고 있다. 만일 과학이 실제로 존재하는 무엇인가를 우리에게 알려주는 것이 아니라면 과학의 활동도 볼 수 없을 것이다. 그러나 과학이 도달할 수 있는 것은 소박한 독단론자가 생각하고 있는 것과 같이 사물자체는 아니고, 다만 사물과 사물 사이의 관계일 뿐이다. 이 관계 이외에 인식할 수 있는 실제의 존재는 사실상 없다.

우리는 오래지 않아 이러한 결론에 도달하게 될
것이다. 그러나 그러기 위해서는 산수나 기하학으로부터 역학이나 실험물리학에 이르기까지 여러 가지 과학을 차례차례로 검토하여 보지 않으면 안 된다.

수학적 추리의 본성은 무엇인가? 그것은 일반 사람들이 믿고 있는 것
같이 정말로 연역적인 것인가? 깊이 연구하여 보면 전혀 그렇지 않다는 것을 알 수 있다. 여기에는 어느 정도까지 귀납적인 성질이 들어 있고, 그 성질이 있음으로 해서 많은 결과를 얻을 수 있는 것이다. 귀납법 때문에 절대적 엄밀이라고 하는 연역적 특징을 조금이라도 잃어 버리는 일은 없다. 우선 이것을 맨 먼저 말해 두었어야만 하겠다.

수학이 연구자의 손으로 넘겨진 도구의 하나임을 잘
알았다. 이번에는 다른 하나의 기본적인 개념, 즉 수학적 양(量)의 개념을 분석해야만 하겠다. 그것은 자연 속에 존재하고 있는 것인가? 혹은 우리가 그것을 자연 속으로 유도해 넣을 것인가? 만일 우리가 이끌어 넣는다고 하면 전부가 거짓이 되어버릴 염려는 없을 것인가? 우리의 감관으로부터 오는 그대로의 재료와 수학자가 양이라고 부르고 있는 극히 복잡미묘한 표상을 비교해 보면 상당히 거리가 있다는 것을 인정하지 않을 수 없다. 그러므로 우리가 어떤 것을 끼워 넣으려는 틀은 우리가 만든 것이 된다. 그러나 우리는 그것을 아무렇게나 적당하게 만든 것은 아니다. 말하자면 치수를 정확히 재서 만든 것이므로, 본질을 손상시키는 일 없이 사실을 거기에 맞추어 넣을 수 있는 것이다.

또
하나 우리가 세계에 밀어 부치는 틀은 공간이다. 기하학의 최초의 원리는 어디에서 왔는가? 그것은 우리의 논리로 밀어 부쳐진 것인가? 로바체프스키(Lobatchevsky)는 비유클리드 기하학을 만들어서 그렇지 않다는 것을 보여주었다. 그렇다면 공간은 우리의 감각을 통해서 우리에게 풀어 보여주었을까? 그렇게 말할 수는 없다. 현실적으로 우리의 감관이 우리에게 보여줄 수 있는 공간은 기하학에서 말하는 공간과는 아주 다른 것이다. 그러면 기하학이 경험에서 나온 것일까? 조금만 파고 들어가서 따져 보면 그렇지 않다는 것도 알 수 있다. 그래서 우리는 기하학의 원리가 규약에 불과하다는 결론을 얻게 된다. 그러나 그러한 규약은 제멋대로 만든 것은 아니다. 만일 우리가 다른 세계(나는 이것을 비유클리드 세계라고 이름 하고 뒤에 형상으로 나타내어 표시하려고 생각한다)로 옮겼다고 하면, 반드시 우리는 다른 규약을 채용하게 될 것이다.

역학에서도 우리는 이것과 유사한 결론에 도달할 수
있다. 그리고 역학의 원리는 기하학보다도 직접적인 경험에 의거하고는 있으나, 기하학의 공리가 보여주는 규약적 성질을 상당히 갖추고 있다는 것을 알 수 있다. 여기까지는 유명론이 위세를 부리고 있으나, 본래의 의미에서의 물리학에 도달하면 형편은 달라진다. 우리는 또 다른 가설에 부딪치고, 그 결과가 대단히 많다는 것을 알게 된다. 물론 얼핏 보면 이론은 위태로운 것 같이 생각되고, 과연 물리학의 역사는 그 이론의 수명이 짧다는 것을 말해주고 있다. 그러나 모든 것이 멸망해 버리는 것은 아니고 그 하나하나에서 무엇인가 남는 것은 있다. 따라서 그 무엇인가를 간파하려고 우리는 노력하지 않으면 안 된다. 왜냐하면 이것이야 말로, 아니 이것만이 참다운 실재의 존재이기 때문이다.

물리학의 방법은 귀납법에 의거하고 있다. 이것으로 우리는 어떤 현상을 최초로 생기게 한
환경을 재현시킬 때, 그 현상이 반복해서 일어날 것을 기대할 수 있는 것이다. 만일 이 환경의 전부를 동시에 재현시킬 수 있다면, 우리의 원리는 아무런 의심도 없이 적용시킬 수 있다. 그러나 그러한 일은 언제까지나 일어나지 않는다. 그것은 만들어진 환경 중에는 부족한 것이 항상 남아 있기 때문이다. 그렇다면 환경은 중요한 의미를 가지지 않는다고 우리는 절대로 확신할 수 있을까? 물론 그렇게도 확신하지는 못한다. 그럴 것 같다고 생각되는 일도 아직은 엄밀하게 확실한 것은 못 된다. 그러나 확률이라는 개념은 물리학에 있어서 작용하는 역할이 매우 크다. 확률론은 단순히 오락이나 바카라를 하는 사람들에게 지침이 되는 것만은 아니다. 그러므로 우리는 확률론의 원리를 깊이 탐구하려고 노력하지 않으면 안 된다. 이 점에 대하여 나는 대단히 불완전한 결과 이상은 줄 수 없다. 그것은 우리에게 확실한 것 같다는 것을 식별시키는 막연한 느낌을 주는 것이며 그만큼 분석을 거부하는 것이기 때문이다.