수학도서 - 페르마의 마지막 정리 수학독후감23

“xⁿ+yⁿ=zⁿ;n이 3이상의 정수일때, 이 방정식을 만족하는 정수해x,y,z는 존재하지 않는다. 나는 경이적인 방법으로 이 정리를 증명했다. 그러나 이 책의 여백이 너무 좁아 여기 옮기지는 않겠다...“
17세기 프랑스의 아마추어 수학자 페르마가 책 여백에 남긴 이 한 문장으로 인해 350년간 모든 수학자들을 좌절의 늪으로 빠뜨렸었다.
정리 자체로만 봐서는 10살짜리 수학을 잘하는 애라면 이해할 수 도 있을만한 문제, 하지만 이것을 증명해 내는 것은 당대에 내노라 하는 사람들도 무릎을 꿇게했다.
이 책이 제목은 ‘페르마의 마지막 정리’이지만 부제를 내가 짓자면 ‘페르마의 마지막 정리의 생애’. 페르마의 정리가 태어나고, 엔드류 와일즈에 의해 증명되기까지의 과정. 그리고 그 과정이 있기 위한 배경과 그 과정 이후의 이야기들이 담겨있는 책이었다.
책의 앞에서는 페르마의 마지막 정리가 태어나기까지의 배경이…(생략)

고 신분 계층에 속하게 되었다.
그는 판결이 없을 때 할 소일거리 일로 수학을 선택하였는데 그냥 취미삼아 하는걸로 하였을 뿐이기 때문에 어디까지나 아마추어 수학자였다. 하지만 그의 수학적 재능은 학자들을 능가할 만큼 대단하였다고 한다.
그런 페르마는 디오판토스의 ‘아리스메티카’를 얻게되면서 그 한권의 책으로 피타고라스와 유클리드가 알고 있었던 정수론의 모든 것을 습득했다. 그는 ‘후학을 위한 집필 활동’에 전혀 관심이 없어고 혼자 문제를 풀고 혼자 만족해 하는 스타일이었다. 그는 문제 해결에 필요한 논리들을 아무데나 휘갈겨 놓기는 하지만 한번이라도 증명의 전과정을 제대로 정리하지는 않았다. 그리고 그놈의 습관 때문에 일이 발생한다.
페르마가 여백에 남긴 낙서 하나.
‘xⁿ+yⁿ=zⁿ;n이 3이상의 정수일때, 이 방정식을 만족하는 정수해x,y,z는 존재하지 않는다. 나는 경이적인 방법으로 이 정리를 증명했다. 그러나 이 책의 여백이 너무 좁아 여기 옮기지는 않겠다.’
거참 사람 열받게 하는 문장 아닌가. 자기는 알면서 단지 귀찮다는(여백이 좁다는건 핑계같아보인다)이유로 정리를 발표하지 않겠다는게...
결국 이 페르마의 정리들중 몇세기가 흐를때까지 풀리지 않은 마지막 정리라 하여 붙여지게된 페르마의 마지막 정리인 이 문제가 세상에 등장하게 된다.
이후 이 정리를 증명해 내기 위해서 많은 수학자들이 일생을 걸며 도전을 해오고 좌절하고 멈춰있다 다시 시작되는 과정이 반복되었다. 가장먼저 한 걸음을 나선 사람은 레온하르트오일러. 18세기를 대표하는 전설적인 수학의 천재로 일컬어지는 그는 보통 사람들을 초월하는 직관력과 기억력을 갖고 있어, 아무리 복잡한 계산도 펜을 쓰지 않고 머릿속에서 해치울 수 있었다고 한다.
페르마의 마지막 정리에서 n이 4일 경우에 대해서는 이미 페르마가 귀류법을 사용하여 증명하였지만 정리는 모든 정수에 한하기 때문에 정수 하나의 경우만 해결했다고 해서 되는게 아니었다. 그러다가 오일러는 n이 3일 경우에 대해서 허수를 이용하여 n이 4인 경우에 사용되었던 무한 반복성 귀류법으로 n이 3인 경우를 해결해냈다. 하지만 이 방법은 n이 5인 경우에는 먹혀들지 않았다. 하지만 저 두가지 경우만으로도 4의 배수, 3의 배수들을 모두 해결한 것이다. 그리고 소수 3을 해결한 것으로만 봐도 모든 수는 합성수(소수의 곱)으로 이루어지기 때문에 소수들만 해결해도 이 문제는 해결된다. 허나, 무한대의 정수에서 소수를 뽑는다는것도 무한대...앞길이 막막하다...
그 뒤로 페르마의 정리는 최고의 난제로 꼽히면서 도저히 풀 수 없다고 여겨져 사람들 사이에서 잊혀져 가고 있었다. 그러던 중 18세기 후반부에 소피마르셍이라는 여성 수학자의 p가 임의의 소수일 때 2p+1도 소수가 되는 그런 부류의 소수에 대하여 xⁿ+yⁿ=zⁿ을 만족하는 (x,y,z)정수해는 존재하지 않을 것 같다는 논리를 전개했고 이것을 이용하여 n이 5일때와 7일 때의 증명을 해내었다. 그 뒤 코시와 라메가 서로 페르마의 정리를 증명했다고 나섰다. 그러나 그 둘의 증명은 쿰머에 의해 논리의 오류가 발생하여 증명이 되지 않았고, 그 시대의 수학으로는 페르마의 정리를 증명하는게 불가능하다고 여겨졌다.
그 뒤, 페르마의 마지막 정리는 증명되리라는 희망은 점점 희미해지고 있었다. 그러다가 1908년 볼프스켈이 페르마의 정리를 증명해 내는 사람에게 거금을 기부하겠다고 나섰다. 19세기에서 20세기로 접어드는 무렵, 샘 로이드의 ‘14-15’퍼즐같은 수학적 수수께기 문제들이 보편화되면서 유럽과 미국 대륙에서는 수백만의 이르는 아마추어 수학광들이 그들의 실력을 발휘할 수 있는 문제를 찾았고 그때 마침 볼프스켈이 상금을 건 페르마의 정리에 아마추어 수학자들의 시선이 집중되었다.
아마추어 수학자들이 페르마의 정리에 관심을 가지고 있었지만 아무리 그래도 아마추어 수학자. 그들이 말하는 증명은 오류가 있는 것들이 많았다. 아마추어 수학자들이 그러는 사이 프로 수학자들은 그 문제를 대체로 무시해 버리는 경향이 있었다. 그들은 쿰머를 비롯한 19세기 정수론 학자들의 이론을 이어받는 대신, 수에 관한 가장 근본적인 성질들을 규명하기 위해 새로운 연구 분야를 개척하고 있었다. 러셀, 힐베르트, 괴델 등을 비롯한 20세기 최고의 수학자들은 수의 가장 기본적인 성질들을 연구했고, 이들의 업적은 수학의 기초를 크게 흔들어 놓았으며, 결과적으로 페르마의 정리에 대한 새로운 반향을 불러일으켰다.
이후 2차대전을 거치며 암호 해독을 목적으로 만든 기계들이 발전하면서 계산기가 나오고 컴퓨터가 나오기 시작하며 ‘방대한 양의 계산‘이라는 걸림돌은 사라졌다. 1980년대에 이르러서는 25,000이하의 모든 정수에 대하여 페르마의 정리가 성립함을 입증하였고, 이후에는 400만 이하의 모든 정수에 대해 성립한다고 주장되었다. 하지만 이렇게 한다고 해도 모든 정수 n인 무한대에 모두 적용된다고 볼 수 는 없는 것이었다. 게다가 모두 컴퓨터를 이용하여 얻어진 증거는 그렇게 믿을만 하지 못 하였다.
20세기 중반, 일본에 타니야마와 시무라는 모듈 형태론을 연구하던 중 모듈형태와 타원 방정식이 1:1로 대응한다고 추론을 세우게 되었으나, 이 추론(타니야마-시무라의 추론)을 증명하지는 못 하고 있었다. 이 증명이 안된 추론. 이 추론을 이용한다면 페르마의 정리를 증명해낼 수 있다고 프레이는 주장하였다. 결국 이 추론만 증명해 낸다면 350년간 수학자들을 무릎꿇게한 페르마의 정리가 증명될 수 있는 것이었다. 여기에 프레이가 약간 오류가 있던 부분을 리벳이 고쳐나가면서 페르마의 정리는 타니야마-시무라의 추론과 엮이게 되었다.
모든 수학자들은 타니야마-시무라의 추론을 증명하기 위해 노력하였으나, 그 증명은 쉽게 나오지 않았다. 결국 사람들은 타니야마-시무라의 추론또한 페르마의 정리처럼 풀리지 않을것이라 여겼다. 하지만 한 사람. 엔드류 와일즈만은 달랐다. 그는 어릴 때부터 가진 꿈. 페르마의 정리를 풀겠다는 꿈을 가지고 칩거 생활에 돌입하여 타니야마-시무라의 추론을 증명하려하렸다.
와일즈가 생각한 방법은 귀납법. ‘주어진 명제가 임의의 수 n에 대하여 성립한다면, 그 명제는 n+1에 대해서도 성립한다.’ 이것을 이용하여 타니야마-시무라의 추론을 해결하려 했다. 귀납법에 의한 증명은 기본적으로 ⑴첫번째 경우에 주어진 명제가 성립함을 증명하고, ⑵임의의 경우에 주어진 명제가 성립하면 바로 그 다음의 경우에도 주어진 명제가 성립한다는 것을 증명해야 했다. 와일즈는 1번의 경우에 대한 증명을 갈루아의 군을 이용하여 증명해냈다. 이것을 해내는 것만 해도 2년이 걸리고 그 다음 작업을 해내야 했다.
그러던 중 미야오카가 ‘미야오카 부등식‘이라는 기하학적 추론을 제기하며 이것을 증명하면 페르마의 정리도 증명된다고 말하였고, 이 추론을 증명해내면서 페르마의 정리를 증명해내었다고 나섰다. 하지만 2개월 뒤 오류를 찾아내면서 결국 틀린 것으로 공식 판명되었다.
와일즈는 첫 번째 작업을 끝내고 두 번째 작업을 해야 했으나 두 번째 작업으로 쓸 도구를 쉽게 떠올리지 못했다. 1년여 시간이 지나고 이와자와 이론을 도구로 선택하여 두 번째 작업을 진행하려 했으나, 그것또한 제대로 먹혀들지 않아, 그는 이번엔 콜라바긴-플라흐의 방법을 골라 다시 시도하였다. 2년에 걸쳐가며 콜라바긴-플라흐의 방법을 강화시켜나가며 타원 방정식과 모듈 형태를 일치시켜 나가 결국 그는 타니야마-시무라의 추론을 증명해내었다.
한번의 검토를 하기 전, 발표를 할 수 있을 좋은 장소와 기회가 얼마 남지 않아 그는 검토를 해보지 못 하고 발표를 했다. 전 세계적으로 놀랐지만 그의 증명을 살펴보던 중 오류가 있는게 발견되었다. 이 오류가 발견된 이상 그의 증명은 물거품이 되버릴 수 있었다. 그렇기 때문에 그는 또다시 그 오류가 발견된 부분을 강화시켜 완벽한 증명을 만들기 위해 또 1년여간을 시간을 보내야 했다. 그는 3년전 버린 이와자와 이론을 다시 끌어들여 이와자와 이론과 콜라바긴-플라흐의 방법을 둘다 사용하여 오류로 지적된 부분을 해결해내었고, 결국 그는 페르마의 마지막 정리를 증명해내었다.

이렇게 페르마의 마지막 정리의 일생은 끝을 맺는다. 아마추어 수학의 왕자라 불렸던 페르마의 장난기 있는 낙서 하나로 시작해서 350년간 많은 수학자의 머리를 아프게 하고 무릎을 꿇게 하다가 결국 와일즈에 의해 증명된...

처음 이 책을 읽으라고 수학 선생님한테 프린트를 받았을 때, 아...또 수학책 읽어야 하나...하고 지겨운 마음이 계속이었다. 게다가 400쪽이라는 분량. 문명과 수학이 200쪽 조금 넘는 양(맞나?;;;대충 기억이 잘 안난다.)이었는데도 읽는데 일주일이 걸렸는데 이 책은 대체 언제 읽으라는 거냐!! 라는 기분에 약간 짜증이 났었다. 허나 결과론적인 이야기지만 지금 이 책은 수학 시간에 읽으라고 한 책으로는 처음으로 내 책장에 꽂힌 책이 되었다.(다른 책들은 전부다 빌려읽었는데 이 책은 샀다.) 책을 사고 단 이틀. 하루는 밤새면서 읽어서 다 읽었다. 책을 덮지 않고 계속 핀 체로 밥도 먹고 화장실도 가고 누워서도 읽고 해가면서 읽으니 이틀이면 충분히 읽게되더라... 그만큼 이 책은 재밌었고 흥미있었다. 일단 이 책은 내용이 그렇게 어렵지 않았다. 문명과 수학같은 경우에는 책의 분량은 좀 더 적었어도 이 책은 전에 읽었던 문명과 수학보다는 내용이 더 쉽게 되어있었다. 문명과 수학같은 경우에는 한번 읽고도 무슨 내용인지 몰라서 다시 읽고 또 읽다보면 앞에 내용이 생각 안나서 다시 읽고...이런식으로 이해가 안되는게 많았는데 페르마의 마지막 정리는 내용도 최대한 쉽게 되어있었고 어려운 부분이 나오더라도 작가가 가능한 이해하기 쉽고 자세하게 설명해주어서 그렇게 어렵지는 않았다. 피타고라스 학회에서부터 시작해서 아직까지 해결되지 않은 여러 문제에 대한 소개로 끝맺은 이 책은 문명과 수학과는 또다른 방법으로 수학의 역사를 쉽게 설명해나간다. 그 속에는 수학가들의 피와 땀이 녹아들어 있고, 꿈과 좌절이 들어있었다.
또 내용 중에 몇가지 나오는 문제들. 가장 마지막에 있는 부록 또한 재밌게 읽었던 요소 중 하나였다. 피타고라스의 정리의 증명이라던지 예전에 수학선생님이 한번 보여주신 √2는 무리수인것에 대한 귀류법을 이용한 증명, 게임 이론과 3인 결투 등 여러 가지 쉽게 읽을만하면서 재밌는 내용이 들어있어서 읽는데 별 무리 없었다.
이틀만에 이 책을 읽게된 또다른 이유라면 예전에 읽었던 책에서 나온 게 또 나오면서 ‘어? 이거 어디서 읽어봤던건데’하면서 자기가 공부한걸 어느정도 찾을 수 있었던 점이었다. 읽으면서 몇군데 아는 내용도 나왔고, 이름만이지만 아는 사람들도 여럿 나왔었다. 그러니까 왠지 더 재밌었었다.

그동안 수학은 왠지 어렵게 느껴졌었다. 실생활에 필요하긴 하다만, 그걸 제대로 응용할 방법을 잘 몰랐었다. 그렇기 때문에 수학이 어렵게 느껴졌고 배우기도 힘들었고, 고등학교 수학을 위해서 억지로 배울려니 흥미도 없었다. 그러던 중에 읽게 된 책이 이 책. 페르마의 마지막 정리가 만들어진 배경과 만들어지고, 그것으로 인해 괴로워했던 많은 수학자들의 피와 노력, 좌절과 포기, 그리고 결국 환희를 외치게 한 수학사의 이야기를 쓰고있다. 한 장 한 장 넘기면서, 제 1장, 제 2장으로 넘어가면서, 이 내용이 페르마의 정리와 관련이 있나? 싶으면서도 교묘히 연관되는...결국 페르마의 정리 하나를 풀기위해서 발전되온 수학의 역사...
수학이라는 것이 과학에 비해서는 별로라고 생각했던 때가 있었었다. 물론 과학이 수학에 의해서 나온것이긴 하지만 과학은 쓸데가 많지만 수학은 그리 쓸모있다고 여겨지진 않았다. 하지만 과학보다 수학은 더 완벽한 학문이었고, 일상의 여러 가지 현상들이 수학적인 증명으로 표현된다는 것. 이런것들을 이 책을 읽음으로해서 알게되었다.
어떻게 생각해보면 페르마의 정리. 이것을 풀었다고해서 그렇게 큰일이 생긴것도 아니다. 사람의 생명이 늘어난것도 아니고, 갑자기 사람들이 잘 살수 있게 된것도 아니다. 그렇기 때문에 이런것에 몇 년동안이나 집에 박혀서 연구를 한다는 건 바보스러운 일이라고 생각할지도 모른다. 하지만 이것은 수학이라는 학문의 완전함과 순수함을 만들기위한 노력이었고 기초학문인 이것을 위해선 충분히 할만한 노력이었다. 그리고 수학에 대해 무지한 사람들도 350년간 증명되지 못 한 이 정리를 증명되어졌다는 것 만으로도 순수한 호기심에서 재미있는 일이 아닌가?
읽으면서 여러 수학자들이 나오고 일본의 수학자들도 나오는데 우리나라의 수학자들은 나오지 않아서 약간 아쉬움이 있었다. 그렇지만 상당히 재밌는 책이었고 와일즈의 끈기를 배봄직하겠다.