수학을 할 때 지키는 규칙 – 공리적 방법

학교에서 생활할 때 학생은 교칙을 지키고, 교사는 초·중등교육법을 지킨다. 도로 위를 다닐 때 운전자와 보행자는 도로교통법을 지킨다. 법치국가에서 살아갈 때 우리는 어떤 행동을 마음 내키는 대로 하지 않는다. 수학을 할 때는 어떨까? 특별히 지켜야 할 우리나라의 법(法)이 있을까? 그런 법은 없다. 그런데 어느 누구도 강제하지 않지만, 수학을 연구할 때 수학자들이 지키는 어떤 규칙이 있다. 그 규칙이 탄생한 역사의 현장으로 함께 가보자.

유클리드의 원론

기원전 3세기 고대 그리스에는 수학자 유클리드[각주:1]가 있었다. 유클리드는 헬레니즘[각주:2] 문명 최대의 학술연구기관 무세이온[각주:3]에서 연구했다. 유클리드는 그 시대의 수학을 집대성했다. 그 집대성의 결과물이 원론[각주:4]이다. 총 13권으로 고대 그리스 수학을 집대성한 유클리드의 원론은 무려 지금껏 가장 성공적이고 영향력 있는 교과서라고 평가받는다. 고대 그리스 시대는 무려 기원전 3세기다. 예를 들어, 기원전 3세기의 과학과 의학을 지금 그대로 사용할까? 아니다. 그런데 왜 수학은 기원전 3세기의 책이 지금껏 나온 모든 교과서 중에서 아직도 영향력이 있을까?

유클리드의 통찰 – 공리적 방법

유클리드의 원론이 지금껏 영향력을 갖는 이유는 무엇일까? 원론이 품고 있는 방대한 지식 때문일까? 아니다. 원론에 있는 대부분의 수학지식은 고대 그리스에서 유클리드 전에 이미 등장했다. 그리고 유클리드 이후로 그리스 학문의 영향이 닿기 어려웠던 동양에서 계산의 기술은 산(算)학이라는 학문 분야로 큰 발전을 이뤘다. 유클리드가 정말로 탁월하게 당시의 수학지식 전체를 통찰한 점은 그가 수학지식을 엮어낸 방법에 있다. 지금 우리는 그 방법을 공리적 방법[각주:5]이라고 부른다.

우리가 유클리드라면?

스스로 유클리드의 입장이 되었다고 생각해보자. 당시의 많은 수학지식을 어떻게 엮어야 할까? 어려워 보이지만 그 방법은 오히려 간단하다. 우리가 어떤 새로운 지식을 접할 때면 늘 ‘왜?’라는 질문이 꼬리를 문다. 우리는 근거를 통해 새로운 지식을 이해할 수 있다. 따라서 수많은 지식을 엮는 방법은 모든 지식의 근거를 체계적으로 대는 것이다.

명제와 증명

유클리드가 엮어낸 수학지식 하나하나를 ‘명제(Proposition)’라고 부른다. 명제는 마치 수학지식의 기본 단위로 비유할 수 있다. 논리학에서 명제는 뜻이 분명한 문장이다. 다시 말해, 참과 거짓이 판별되는 문장을 ‘명제’라고 부른다. 그리고 수학에서 명제가 참임을 밝히는 과정을 ‘증명(Proof)’이라고 부른다. 증명은 마치 수학지식의 근거를 대는 것으로 비유할 수 있다.

무한 후퇴[각주:6] 피하기

어떤 사람과 대화를 한다. 이 사람은 대화 중에 내 말의 이유를 묻습니다. 적당한 이유를 말했는데, 이 사람이 또 그 이유에 대한 이유를 묻는다. 곰곰이 생각해 내가 말한 이유에 대한 다른 이유를 말해주는데, 이 사람은 다시 그 새로운 이유에 대한 이유를 묻는다. 이런 과정을 계속하여 반복하니 너무나 당연해서 더 설명할 이유가 없다. 그런데 이 끝을 모르는 끈질긴 사람이 여전히 묻는다. 이런 상황을 논리학에서는 무한 후퇴라고 한다. 이런 상황은 수학에서 의외로 자주 볼 수 있다. 아래 그림1은 삼각형의 내각의 합이 180˚가 되는 근거를 거듭해서 찾는 과정이다. 마지막 근거를 대기에는 너무 당연하다. 어떻게 해야 이런 상황을 피할 수 있을까?

그림1. 삼각형의 내각의 합 근거 도표

공리와 공준

고대 그리스인은 만물의 근원이 되는, 항상 변치 않는 구성요소 스토이케이아를 믿었다. 이와 비슷하게도 유클리드는 수학지식의 근원 되는 몇 가지 명제를 ‘공리(Axiom)’와 ‘공준(Postulate)’으로 정했다. 공리는 자명하게 참으로 받아들이게 되는 명제 다시 말해 증명이 필요 없는 명제를 뜻한다. 공준은 공리와 같은 뜻으로 쓰이기도 하나, 기하학[각주:7]에서 자명하게 참으로 받아들이게 되는 명제를 공준이라 부른다. 한편, 기본이 되는 수학적 대상들의 뜻을 정했는데, 이를 ‘정의(Definition)’라고 부른다.

공리적 방법

유클리드는 당시의 수학지식 전체를 통찰하고 수많은 수학의 명제를 가장 근원이 되는 명제인 5개의 공리와 5개의 공준으로 465개의 명제를 전체 13권의 원론으로 엮어냈다. 이러한 방법을 ‘공리적 방법(Axiomatic method)’이라 한다. 유클리드는 우선 전체를 통찰하고 수학지식을 엮었지만, 원론은 정의, 공리, 공준으로부터 시작하여 새로운 참인 명제를 차례로 이끄는 구조로 쓰여있다. 원론에서 유클리드의 통찰 기록을 찾아볼 수는 없다. 다만, 우리는 유클리드의 예리한 통찰을 원론의 단순하고 우아한 아름다움을 통해 추측할 수 있을 뿐이다.

수학을 이해하기

처음에 수학자들이 수학을 연구할 때 지키는 규칙이 있다고 했다. 그 규칙은 공리적 방법을 사용하는 것이다. 공리적 방법은 지식을 탐구하여 얻은 통찰로 지식을 이루는 근원을 찾아내 전체 지식을 엮어내는 과정이다. 한편, 유클리드 이후로 공리적 방법은 대부분의 학문 분야의 일반적인 연구 방법이 되었다. 공리적 방법이 체계를 만드는 방법이므로 어떤 지식의 근원을 찾아 지식을 엮으면 체계가 만들어지기 때문이다. 그러므로 무엇이든 배울 때 가장 중요한 것은 탐구하여 통찰하는 것이다. 따라서 수학을 배울 때 통찰이라는 목적 없이 수학 지식을 습득하기 위해 순서대로 보고 습득하는 것은 지루하고 따분할 뿐만 아니라 진정한 배움이 될 수 없다. 반대로 수학을 이해하기 위해 꾸준히 탐구하고 통찰하면 배움의 길은 그리 지루하거나 따분하지 않을 것이다.

참고

  1. 알렉산드리아의 에우클레이데스(Eukleides of Alexandria). 영어로는 유클리드(Euclid)라고 불린다. [본문으로]
  2. Hellenistic period. 기원전 3세기 고대 세계에서 그리스의 영향력이 절정에 달한 시대. 헬레니즘이라는 말은 그리스어로 그리스인 자신을 부르던 말 헬라스(Hellas)에서 유래했다. [본문으로]
  3. Mouseion at Alexandria. Musaeum. 고대 이집트의 파라오 프톨레마이오스 1세의 시대에 알렉산드리아에 설립되었다. 이 기관의 도서관이 당시 세계 최대의 도서관으로 알려진 ‘알렉산드리아 도서관’이다. 한편, 무세이온은 영어로 박물관, 미술관을 뜻하는 뮤지엄(Museum)의 어원이다. [본문으로]
  4. 스토이케이아(Stoicheia). 원소, 요소, 성분을 일컫는 그리스 말이다. 영어로는 ‘Elements’라고 불린다. 고대 그리스 시대에는 만물의 근원이 되는, 항상 변치 않는 구성요소가 있다고 생각했다. [본문으로]
  5. 유클리드가 그가 살던 당시의 수학지식을 엮어내는 방법. 다시 말해, 수학 지식의 체계를 만드는 방법. [본문으로]
  6. Infinite regress. 어떤 명제 P1이 참이 되려면 P1과 다른 어떤 명제 P2가 참이 되어야 하고, 명제 P2가 참이 되려면 P1, P2와 다른 어떤 명제 P3이 참이 되어야 하는데, 이런 과정이 한없이 반복되는 것을 무한 후퇴라고 한다. [본문으로]
  7. Geometry. 도형과 공간의 성질을 연구하는 학문. [본문으로]