수학의 길에서 헤매일 때

학부시절 수학은 그저 학점을 쉽게 따기 위한 손쉬운 과목 정도로 여겨졌다. 물리학에서는 운동방정식을 세우고 복잡한 미분방정식을 풀거나, 확률 문제를 계산하고, 벡터 공간에서 장을 계산하는 것 등이 일상이었기 때문에, 수학관련 강좌들에서 좋은 학점을 따는 것은 크게 어렵지 않았다. 정확히는 않았다고 생각했었다. 왜냐하면, 학부 4학년 수학 과목을 듣기 시작하면서 이 생각이 순진한 착각이었음을 인지하기 시작해서였다.

 

강의 시작과 함께 칠판을 가득 체워 나가는 수 많은 공리와 정의, 정리, 따름 정리를 노트에 받아 써내려가며, 그동안 내가 알던 수학은 수학이 아니었다는 것을 깨달아갔다. 기본적인 수학의 구조들 사이의 관계와 공리를 조합하여 새로운 정의를 이끌어 내고 증명하는 과정은 정신을 아득하게 만들기 충분했다.

 

물리학과 수학 사이에는 마치 거대한 장벽이 서 있는 것만 같았다.

 

일반상대성이론을 공부하게되면 마주하게 되는 몇가지 용어와 개념들이 있다. 곡률과 다양체가 대표적이다. 만약 이 두 용어를 그대로 받아들이고 스스로 계산기가 되어 주어진 법칙과 규칙에 맞게 계산만 해 나가는 것을 순순히 받아들이지 못한다면, 그때부터 본격적인 고통이 시작된다. 곡률을 이해하기 위해서는 미분기하학을 살펴보아야 한다. 미분기하학을 보려면 기하학을 알아야하고, 양자장론과 상대성이론이 다루는 공간을 이해하기 위해서 위상기하학도 익혀야 한다. 위상기하학은 다시 대수학과 집합론, 군론, 해석학, 정수론의 기반위에 서술 되는 식이다.

 

물리학을 공부하려면 수학을 잘 해야한다고 생각하지만, 절반은 맞고 절반은 틀린 말이다. 일반상대론의 배경 이론을 제대로 이해하기 위해 필요한 수학들은 하나하나가 독자성을 가지고 있는 전문 분야이기 때문에, 이 모든 것을 제대로 숙지하는 것은 불가능에 가깝다. 물리학은 수학의 힘을 적극적으로 빌리고 있지만, 도구로서 수학을 이용하는 것에 가깝다. 양자역학의 해석을 위해 확률론과 선형대수를 도입하고, 양자장론의 해석을 위해 군론을 도입하는 식이다. 그래서 표면적으로는 수학적이지만 수학적 엄밀성은 다소 떨어진다. 도입한 수학 이론이 자연을 잘 서술할 수 있다면, 우리는 그것을 받아들이고 구성된 이론을 실험을 통해 검증하는 것이다. 양자역학에서 입자의 상태를 행렬 방정식으로 해답을 얻거나, 양자장론에서 꼭짓점 연산자 대수를 이용하여 등각장론(CFT)이 구성된 것이 대표적인 예이다.

 

우리는 지금 알게 모르게 수학의 시대에 살고있다. 텔레비젼에서 스마트폰, 비행기, GPS, 열차 운행표, 의료장비, 일기예보, 인공지능에 이르기까지 모든 것이 수학적 개념과 방법에 바탕을 둔다. 몰론, 자동차 네이게이션을 사용하기 위해 일반상대성이론과 삼각측량법을 이해할 필요는 없다. 하지만, 물리학이 수학을 차용하는 것처럼 가끔 수학을 알아야 할 때가 찾아오기도 한다. 인공지능 모델을 구성하기 위해서는 선형 대수를 알아야하고, 위상수학 데이터 분석을 위해 위상수학을 이해해야 하며, 금융모델 설계를 위해 대수학을 숙지 해야하며, 게임을 만들기 위해 확률론에 정통해야한다. 이럴때 자칫하면, 수학의 늪에 빠져 헤어나오지 못하게 될지도 모른다. 일반상대성이론을 공부하며 마주 했던 개인적 경험에서 처럼.

 

만일 수학에 처음 입문하거나, 수학의 어느 복판에서 길 헤매일 즈음에, 혹은 수학의 부감풍경을 조감하고 싶을 때, 수학사 교양서를 가볍게 읽어 본다면 좋은 길잡이 역할을 해 줄것이다. 그런 의미에서 아래의 두 책은 추천할만하다.

 

한 장의 지식 : 수학 - 폴 글렌디닝 지음, 김융섭 옮김, 배수경 감수/arte(아르테)

교양인을 위한 수학사 강의 - 이언 스튜어트 지음, 노태복 옮김/반니