나는 '수포자'(수학 포기자)였다. 수학을 포기했기에 재수를 할 수밖에 없었다. 나만 수학이 싫은가 했는데, 주변에서 수학이 재미있다는 사람을 본 적이 없다. 유유상종인지 다들 "더하기 빼기 곱하기 나누기만 할 줄 알면 됐지 뭐"라거나 "수학은 괴로워" 하는 사람들뿐이었다. 수학은 왜 이토록 재미가 없었던 걸까. 원래 수학이 재미없는 학문이어서였을까?

기억 속 학창시절의 수학시간은 늘 공식을 외우고 공식에 맞춰 문제만 풀었던 기계적인 시간이었던 것 같다. 도무지 지금 배우는 수학이 어디에 쓰이는 건지 알지 못했다. 미분이 무엇에 필요하며, 적분이 어떻게 쓰이는지 누군가 설명을 조금만 더 조근조근히 잘 해줬더라면 나의 수학 실력이 조금은 나아지지 않았을까, 하는 원망도 든다.

그런데 한국인 수학자로는 처음으로 2011년 옥스퍼드대 수학과 정교수로 임용된 김민형 교수의 <수학이 필요한 순간>을 읽다 보니 수학이 결코 재미없지는 않은 것 같다. 아니 오히려 흥미롭기까지 하다. 김민형 교수는 '페르마의 마지막 정리'에서 유래된 산술대수 기하학의 고전적인 난제를 위상수학의 혁신적인 방식으로 해결하여 세계적 수학자의 반열에 올랐다.

사실 산술대수 기하학이 뭔지, 위상수학이 뭔지 이 책을 읽기 전까지는 생각할 일도 관심도 없었다. 그런데 김민형 교수의 이야기를 듣다보니 관심이 생긴다. 뭔가 재미가 느껴지기도 한다. 이런 사람이 수학선생님이었다면, 아니 수학선생님이 이렇게만 설명해줬더라면 수학을 포기할 일도 재수를 할 일도 없지 않았을까, 라는 생각에 뒤늦게 아쉽기만 하다.

<수학이 필요한 순간>은 수학을 하는 것보다는 수학에 대해 생각하고 이야기하는 것을 더 좋아한다는 김민형 교수가 한국과학기술원 고등과학원 수학난제연구센터에서 진행한 강의를 대화식으로 엮은 책이다. 아주 기본적인 수식의 원리에서부터 노벨 경제학상을 받은 이론 같은 최신 현대 수학까지 내용은 아주 다채롭다.

오늘날 물리학을 비롯한 과학은 물론이려니와, 경제학 논문의 대부분이 수학으로 되어 있고 심지어 언어나 신화의 연구에도 수학적 사고가 필요하다고 한다. 김 교수는 오늘날 인간이 가지고 있는 지능과 상상력에 어떤 차이가 있다면 그것은 수학적인 이해력의 차이 때문이라고 말한다.

<수학이 필요한 순간>은 수학이 뭔지, 수학적 이해력이 무엇인지를 찾기 위한 여행이라고 김 교수는 말한다. 김 교수와 함께 한 여행은 수포자마저도 사로잡은 아주 재미나고 흥미진진한 여행이었다.

수학의 확실성에 대한 환상을 버려라

큰사진보기
▲  김민형 교수의 <수학이 필요한 순간> 표지
ⓒ 인플루엔셜	관련사진보기

보편적으로 수학은 논리적인 풀이 과정이라고 생각하지만 김 교수는 그것이 수학에 대한 편견일 수 있다고 이야기한다. 버트런드 러셀과 같은 철학자들이 '수학은 논리적이다'라는 관점을 굉장히 강하게 표명했는데, 김 교수는 수학이 논리학이라는 관점은 두 가지 측면에서 완전히 틀렸다고 주장한다.

수학은 굉장히 많은 구체적 사례를 정리하는 과정에서 논리가 필요한 것이지, 처음부터 논리에서 수학을 만들어가는 것은 아니라는 것이 첫 번째 이유다. 두 번째는 논리를 사용하는 학문이 수학만은 아니라는 것이다. 세상에 논리를 사용하지 않는 학문은 없으며 학문이 아니더라도 일상생활에서 사용하는 사고와 언어도 논리를 내포하고 있기 때문이다.

그렇다면 흔히들 수학적 논리는 '올바른 사고'와 다를 바 없다고 생각하는데 그건 맞는 것일까? 김 교수는 아니라고 말한다. 그러한 생각은 바로 수학의 확실성에 대한 집착 때문이라는 것이다. 수학적 증명은 한 번 해놓으면 영원불멸할 것이라고 여기지만 그런 생각이야말로 환상이라고 김 교수는 말한다.

수학적 전통과 언어가 다른 학문에 비해 상대적으로 명료한 논리를 전개할 수 있는 여건을 마련해놓은 건 사실이지만 그렇다고 해서 인간이 하는 작업이 완벽하고 영원불멸하기를 기대하는 것 자체가 무리이기 때문이다. 그렇다면 수학적 사고란 뭘까?

김 교수는 구체적인 예를 통해서 궁극적으로는 전체적인 틀이 형성되어 가는 것을 수학적 사고라고 설명한다. 즉 특정한 틀을 정해놓고 공부를 하는 것이 아니라, 똑같은 질문에도 답을 찾아나가는 과정이 여러 가지가 될 수 있는데 바로 그렇게 논리를 발전시켜 답을 찾는 과정이 수학적 사고라는 것이다.

물에 빠진 아들을 구하는데도 수학이 필요해

유난히 무더워 물놀이 사고도 많았던 올 여름. 그런데 물에 빠진 아들을 구하는데도 수학적 사고가 필요하단다. 만약 바다에 어린아이가 빠졌는데 모래사장에 서 있던 아버지가 아이를 구하려면 어떻게 해야 할까? 아이를 향해 곧장 물로 뛰어드는 최단거리를 택해야 할까? 아니면 모래사장에서 아이가 있는 쪽으로 좀 더 많이 이동한 다음 물로 뛰어들어야 할까?

이 문제를 풀기 위해선 빨대와 동전을 생각해볼 필요가 있다. 물을 절반 정도 담은 유리컵에 빨대를 꽂으면 빨대가 구부러져 보이고, 물속에 동전을 넣어놓으면 눈으로 보이는 동전의 위치와 실제 동전이 있는 위치가 다르게 보인다. 빛의 굴절 때문이다. 빛은 공기를 통과할 때보다 물을 통과할 때 상호작용이 많아져 이동 시간이 많이 걸리기 때문이다.

이것이 바로 수많은 이론들 중에서도 수학사에 획기적인 전환을 이룬 이론 중의 하나인 '빛은 시간을 최소화하는 경로로 진행한다'는 페르마의 원리이다. 즉 빛은 최단거리가 아니라 시간을 최소화하는 경로로 진행한다는 것이다. 따라서 페르마의 원리를 적용하여 물에 빠진 아이의 아버지도 최단거리가 아니라 시간을 최소화하는 경로를 찾아야 하는 것이다.

이처럼 김 교수는 어렵기만 했던 수학적 원리를 아주 쉽고 재미나게 설명하고 있다. 유치하게 보이는 도박문제를 두고 17세기 파스칼과 페르마가 나눈 서신이 세계를 바꿔버린 이야기와 자율주행자동차의 자율주행 시스템을 훈련시키기 위한 확률론에 대한 이야기 '트롤리 문제', 민주주의에서 투표방식에 대한 사회결정 문제 등은 특히나 흥미롭다.

투표방식에 따라 선거 결과가 어떻게 달라질 수 있는지를 경우의 수를 통해 수학적으로 설명한 대목에서는 민주주의가 정말 민의를 제대로 반영할 수 있을지 의문마저 들었다. 각종 경선이 치러질 때마다 정치인들이 투표방식을 두고 치열한 신경전을 벌이는 이유가 바로 그 때문이었던 것이다.

김 교수는 수학적인 사고가 사회에 어떻게 적용되느냐는 질문에 답할 때, 수라는 개념 안에서만 생각한다면 굉장히 제한적인 관점이 될 수밖에 없다고 말하며 건전한 과학적 시각이란 '근사(approximation)'해 가는 과정이라는 걸 받아들이라고 말한다.

완벽하게 할 수 없다고 해서 포기하는 것이 아니라 제한적인 조건 속에서 이해할 수 있는 현상이 있다는 걸 받아들이라는 것이다. 나중에 뒤집어지더라도 현재의 조건 안에서 이해해나가라는 말이다.

근사해가는 과정, 항상 바꿀 수 있는 것, 그리고 섬세하게 만들어가는 과정 자체를 학문이라고 생각해볼 수도 있을 것이라는 김 교수의 말은 비단 학문 뿐 아니라 세상 모든 일에 적용해 볼 수 있을 것 같다.

그림을 그릴 때 조각을 할 때 먼저 큰 형태를 만들고 조금씩 다듬어 결국 멋진 작품을 만드는 것처럼 인생도 다듬고 깎아 원하는 삶의 형태로 근사해 가는 과정 아닐까. 그러다 보면 종국엔 원하던 모습의 삶을 살고 있는 나를 볼 수 있을 것이라는 희망찬 생각을 한다. 결국 수학을 찾는 여행은 인생을 찾는 여행이었다.