페르마의 마지막 정리 책리뷰

페르마의 마지막 정리는 정리 자체는 쉽게 표현되지만, 증명은 매우 어려운 문제였다. 페르마가 남긴 이 쉽고도 어려운 정리를 증명하기 위해 수학자들의 수많은 노력과 시간이 소비되고, 결국 페르마의 마지막 정리는 을 증명한 ‘앤드루 와일즈’라는 수학자에 의해 증명된다.

이 책을 읽으면서 여러 가지로 많이 놀란 것 같다. 우선, 많은 수학자가 페르마의 마지막 정리를 푸는 것은 거의 불가능에 가깝다고 말했음에도 불구하고, 그 정리를 풀기 위해 엄청난 시간을 들이고, ‘비록 정리를 증명하는 것을 실패한다고 해도 정리를 증명하려고 하는 과정에서 발생한 수많은 또 다른 사실들을 발견해내는 것’에 대해 기쁨을 느낀 앤드루 와일즈의 가치관이 대단하다고 생각했다.

또 놀랐던 점은 이 책에서 수학과 과학을 비교한 데에 있다. 평소 과학에 대해 내가 느낀 점은 ‘실험 및 관찰을 통해 얻어낸 자료이므로 정확하다, 실생활에서 많이 찾아볼 수 있다’라는 것이었다. 반면 수학에 대해 내가 느낀 점은 ‘추상적인 개념이 너무 많다. 식을 너무 간결하게 적으려고 하니까 뭔 소리인지 잘 모르겠다. 등등’이었다, 그런데 책에서는 내 이런 관념은 깨는 이야기가 적혀있었다. ‘과학이론은 수학적 증명과 같은 엄밀한 검증 과정을 거칠 수 없고, 과학적 증명이라 불리는 모든 행위는 관측과 지각에 의존할 수밖에 없는데, 이들은 수학적 논리에 비해 신뢰도가 많이 떨어질 뿐만 아니라 기껏해야 대략적인 진실만을 보여줄 수 있을 뿐이다. 수학 정리의 사실 여부는 그것을 증명하는 데 사용한 논리의 타당성에 전적으로 좌우된다. 그리하여 일단 증명이 성공적으로 이루어지면 그것은 이 세상이 끝나는 날까지 진리로 남는다. 수학적 증명은 그만큼 완벽한 것이다.’라고 말이다. 그냥 언뜻 봐도 당연하게 보이는 ‘m+k=n+k이면 m=n’이라는 명제도 수학적 공리로 완벽하게 증명해서 얻어진 결과라는 사실에 수학은 내가 생각했었던 것보다 훨씬 더 정확하고 논리적인 학문이라는 생각이 들었다.

이 책을 읽으면서 흥미로웠던 부분도 있었다. 우선, 수학의 통일작업이었던 ‘랭글런드 프로그램’에 관한 것이다. 수학의 많은 분야 중 전혀 다르게 보이지만 서로 연결되는 분야를 말하는데, 이를 통해 여러 가지 방식으로 한 문제에 접근할 수 있고 수학이 통일될 수 있다는 사실이 흥미로웠다.

또, 이 책의 거의 마무리 부분에 소개된 페르마의 마지막 정리를 제외한 여러 가지 난제를 소개한 부분도 흥미로웠다. ‘임의의 구획들로 나누어져 있는 도형을 칠해나갈 때, 인접한 구획들이 동일한 색으로 칠해지는 경우가 하나도 없도록 칠하려면 네 종류의 색상만으로도 충분하다’라는 명제의 4색 문제를 해결하기 위해 어떤 수학자들은 1482가지의 유한한 지도들만 고려하면 된다는 결과를 얻었고, 그들은 1482가지의 경우를 전부 컴퓨터로 돌려 4색 문제가 참임을 증명했다. 그런데 이에 대해 몇몇 수학자들은 ‘컴퓨터에 얼마든지 오류가 발생할 수 있으므로 모든 컴퓨터는 잘못된 결론을 내릴 가능성을 항상 지니고 있다.’라고 반박했다. 이 부분 역시 흥미로웠다. 나는 무한대의 경우를 고려해야 하는 문제가 아니라면 컴퓨터를 통해 증명하는 것은 괜찮다고 생각한다. 원주율의 개념인 π를 계산할 때도 슈퍼컴퓨터를 이용해 계산하고 있고, 책에 쓰여 있는 ‘사람이 평생을 걸려도 하지 못할 계산을 컴퓨터가 몇 시간 만에 해낼 수 있다고 해도 이것 때문에 수학적 증명의 개념이 바뀌지는 않는다. 이론 자체가 변하는 것이 아니라 수학을 실천하는 방법이 달라지는 것이다.’라는 말에 공감하기 때문이다. 이 책 덕분에 수학의 이면을 본 것 같고, 수학에 대해 다양한 생각을 해 본 것 같다.