수학도서 - 페르마의 마지막 정리 독후감 페르마의 마지막 정리

피에르 드 페르마는 1601년 8월 20일 프랑스 서부의 보몽 드 로마뉴 시내에서 태어났다. 그의 부친 도미니크 페르마가 부유한 가죽 상인이었던 덕에 피에르는 그랑셀브의 프랑시스캉 수도원에서 부잣집 자녀들만이 받을 수 있는 고급 교육을 받을 수 있었으며, 그 뒤에도 툴루즈 대학에 진학하였다. 그러나 어린 시절 페르마에게 특별한 수학적 재능이 있었다는 기록은 어디에도 없다.
가족들은 페르마가 공무원이 되기를 원했다. 1631년에 그는 가족들의 뜻에 따라 시의회 의원이 되었다. 지방에 사는 사람들이 왕에게 탄원서를 올릴 때에는 반드시 페르마나 그의 동료 중 한 사람에게 자문을 구하는 과정을 거쳐야만 했다. 페르마의 주된 임무는 서민들의 이야기를 국왕에게 전달하는 것과 국왕의 포고령을 전국 각지에 분명하게 전달하고 그것이 정상적으로 이행되도록 감독하는 일이었다. 전해지는 기록에 따르면 그는 매우 인정 많고 경우 바른 유능…(생략)

길을 걷기로 했다. 그는 정치적인 야심을 모두 포기하고, 의회에서 일어나는 불미스러운 일에 연루되지 않기 위해 최선을 다했다. 그 대신 페르마는 자신의 열정을 수학에 쏟아 부었다. 판결이 없을 때 소일거리로 삼을 만한 취미 활동으로 그는 수학을 선택한 것이다. 그러나 그는 수학에 관한한 어디까지나 아마추어일 뿐 전문 학자는 아니었다. 그의 수학적 재능은 학자들을 능가할 만큼 대단한 것이어서, 줄리언 쿨리지 (Julian Coolidge)는 그의 저서 ??위대한 아마추어의 수학 (Mathematics of Great Amateurs)??에서 페르마를 아마추어 수학자 명단에 올리지 않았다. ??그의 수학 실력이 너무 뛰어나기 때문에 아마추어로 간주할 수 없다.??는 것이 그 이유였다.
마랭 메르센 (Marin Mersenne) 신부는 프랑스 전역을 돌아다니면서 최근에 발견된 과학적 사실들을 전파했다. 그는 여행 중에 피에르 드 페르마를 몇 번 만났는데, 페르마에게 있어 이 만남은 그가 다른 수학자와 정기적으로 가졌던 유일한 만남이었다. ??아마추어 수학의 왕자??로 군림하던 페르마는 메르센으로부터 커다란 영향을 받았다. 아마도 이것은 페르마를 변화시킨 요인들 중에서 두 번째로 중요한 요인일 것이다. 그에게 가장 큰 영향을 끼친 것은 고대 그리스 시대부터 전해 내려오는 ??아리스메티카 (Arithmetica)??라는 수학책이었다. 페르마는 이 책을 아예 끼고 살다시피 했다. 메르센은 여행을 할 수 없을 때에도 페르마를 비롯한 수학자들과 꾸준하게 편지를 주고받았다. 메르센이 죽은 뒤 그의 방에서는 무려 78명의 사람들이 보내온 산더미 같은 편지들이 발견되었다고 한다.

메르센 신부의 간곡한 설득에도 불구하고 페르마는 자신의 증명을 결코 공개하지 않았다. 자신의 업적이 세상에 알려지는 것은 그에게 아무런 의미가 없는 일이었다. 페르마는 그저 남들의 방해를 받지 않는 조용한 곳에서 새로운 정리들을 증명하는 것에 만족하는 사람이었다. 그러나 이 수줍음 많고 내성적인 천재는 한편으로 장난기 어린 심성을 갖고 있었다. 페르마는 폐쇄적인 생활을 하던 중에도 가끔씩 다른 수학자들과 교신을 하곤 했는데, 그럴 때마다 짓궂게도 그들을 가지고 놀았다고 한다. 페르마는 사람들에게 보내는 편지에 자신이 최근 발견한 수학 정리를 아무런 증명도 없이 적어놓고, ??당신도 한번 이 정리를 증명해 보시죠. 저는 이미 했습니다.??라면서 읽는 사람의 마음을 애태우곤 했다. 자신의 증명을 세상에 공개하지 않는 페르마의 이런 행동 때문에 당시의 수학자들은 꽤 심각한 열등감과 스트레스에 시달렸다. 데카르트는 페르마를 ??허풍쟁이??라고 불렀으며, 영국인 수학자 존 윌리스는 ??빌어먹을 프랑스 녀석??이라고 표현했을 정도이다. 영국인들은 유난히 페르마를 싫어했는데 그 이유는 페르마가 영국에 있는 사촌 형제들과 편지 왕래를 하면서 그들을 실컷 골려 먹었기 때문이다.
문제만 설명하고 해답을 숨김으로써 주변 사람들의 속을 태우는 페르마의 이러한 성향에는 나름대로 그럴만한 이유가 있었다. 첫번째 이유는 페르마가 자신의 증명 논리를 남들에게 보여줄 수 있을 만큼 깨끗하게 정리하는 것을 시간 낭비라고 생각했기 때문이다. 그는 머리 속에서 대충 논리가 성립되면 즉시 다음 문제로 넘어갔다. 게다가 그는 다른 수학자들의 질투 어린 이의 제기를 일일이 방어할 생각도 없었다. 일단 증명 과정이 공개되면 그것은 순식간에 수학자들에게 전파되어 저마다 나름대로의 검증을 한답시고 페르마를 귀찮게 굴 것이 뻔했기 때문이다. 파스칼이 페르마에게 연구 결과의 일부를 출판하라고 권했을 때, 은둔자 페르마는 이렇게 대답했다. ??나의 증명이 출판되어 사람들에게 찬사를 받는다 해도, 거기에 내 이름까지 적어놓지는 않을 겁니다.?? 페르마는 비평가들이 쏟아 붓는 시시콜콜한 질문을 피하기 위해 명성을 포기한 ??베일 속의 천재??였다.
메르센 신부 이외의 사람과는 전혀 수학적 토론을 하지 않았던 페르마였지만, 파스칼을 통하여 ??확률이론 (Probability theory)??이라는 전혀 새로운 수학 분야를 접하게 된 그는 혼자 있고 싶어하는 성향에도 불구하고 파스칼과 열심히 편지를 주고받았다. 페르마는 파스칼과 함께 모호한 확률이론을 분명한 기반 위에 올려놓았으며, 여러 개의 정리를 증명함으로써 확률이론의 기초를 탄탄하게 다져놓았다.
페르마는 파스칼과 함께 확률이론의 산파 역할을 했지만, 그는 이것말고도 ??미적분학??이라는 수학 분야에 깊이 심취되어 있었다. 미적분학은 ??미분×적분학??의 약칭으로, 미분이란 임의의 어떤 양이 다른 기준량에 대하여 얼마나 빨리 변하는가를 계산하는 방법이다. 예를 들어 움직이는 물체의 위치가 시간에 대하여 얼마나 빨리 변하는지 알고 싶을 때 바로 이 미분법을 사용할 수 있는데, 위치를 시간으로 미분하여 얻은 값 속에 모든 정보가 들어 있다. 흔히 우리는 이 값을 가리켜 ??속도??라고 부른다. 수학자들이 다루는 양들은 대부분 추상적이고 모호한 것들이지만, 페르마의 업적은 과학에 일대 혁명을 불러일으켰다. 페르마의 수학 덕분에 과학자들은 속도와 가속도의 개념을 더욱 확실하게 이해할 수 있었으며 근본적인 물리량들 사이의 상호관계를 더욱 체계적으로 분류할 수 있게 되었다.
수세기 동안 사람들은 미적분학의 독보적인 창시자가 아이잭 뉴턴이라는 설에 아무런 설에 아무런 이의를 달지 않았다. 뉴턴이 페르마의 연구를 참조했다는 사실을 아는 사람은 아무도 없었다. 그러다 1934년에 이르러 이 사실을 뒷받침하는 증거가 무어 (L. T. Moore)에 의해 제시되었다. ??페르마의 접선 계산법을 기초로 하여 미적분학을 개발하였다.??는 뉴턴 자신의 친필 원고가 발견된 것이다. 17세기 이후로 미적분학은 거리와 속도, 그리고 가속도의 핵심 개념으로 이루어진 뉴턴의 역학법칙과 중력법칙을 서술하는데 주로 사용되어 왔기 때문에 페르마의 업적은 뉴턴이라는 거인의 그림자에 가려져 있었다.
미적분학과 확률이론의 창시자라는 사실만으로도 페르마는 역사상 가장 위대한 수학자라고 할 수 있다. 그러나 놀랍게도 그가 남긴 가장 훌륭한 업적은 이것과 전혀 다른 엉뚱한 수학 분야에서 이루어졌다. 미적분학은 로켓을 달나라로 보내는 데 사용되고 확률이론은 보험금을 책정하는데 주로 사용되지만, 페르마가 정작 위대한 업적을 남긴 분야는 실생활에 거의 도움이 안 되는 이른바 정수론이었다. 페르마는 수의 성질과 상호관계를 연구하는데 완전히 매료되어 있었다. 이것은 가장 순수하면서도 가장 오랜 역사를 가진 수학 분야로서 페르마는 피타고라스 시대부터 전수되어 온 수학적 진리를 기초로 하여 더욱 새로운 학문체계를 완성시켰던 것이다.
??페르마의 마지막 정리??에 관한 이야기가 계속해서 수학자들 사이에 회자된 이유는 그것이 증명되지 않은 ??정리??였기 때문이다. ??수학적 증명??은 우리가 일상적으로 쓰고 있는 ??증명??이라는 말뜻보다 훨씬 더 강력하고 엄밀한 개념을 갖고 있으며, 물리학자나 화학자의 증명보다 더욱 논리적이어야 한다. 과학적 증명과 수학적 증명의 차이점은 복잡미묘하고도 심오하여 피타고라스 시대부터 오늘날까지 계속되고 있는 수학자들의 눈물겨운 노력을 이해하려면 그 미묘한 차이점을 먼저 이해해야 한다.
고전적인 수학적 증명은 몇 개의 공리 (Axiom)로부터 출발한다. 공리란 ??사실이라고 가정할 수 있는??, 또는 ??그 자체로 사실임이 분명한?? 수학적 명제를 말한다. 이 공리에서 시작하여 단계별로 논리를 전개해 나가면서 아무런 무리 없이 결혼에 도달해야만 비로소 하나의 수학적 증명이 완성되는 것이다. 공리에 아무런 결함이 없고 논리에 모순이 없으면 그로부터 내려진 결론은 수학적 진리로 받아들여진다. 이렇게 얻어진 결론 바로 정리 (Theorem)이다.
수학 정리의 진위 여부는 그것을 증명하는데 사용한 논리의 타당성에 전적으로 좌우된다. 그리하여 일단 증명이 성공적으로 이루어지면 그것은 이 세상이 끝나는 날까지 진리로 남는다. 수학적 증명은 그만큼 완벽한 것이다.
??페르마의 마지막 정리??에 매달리는 수학자들에게는 대체로 두 가지의 이유가 있었다. 첫째 이유는 자신의 분야에서 최고가 되려는 야망 때문이라고 할 수 있다. ??페르마의 마지막 정리??는 세계 최고의 천재를 가려내는 일종의 테스트였으며 누구든지 정리를 증명해 내기만 하면 그는 코시, 오일러, 쿰머와 같은 당대 최고의 석학들조차 해결하지 못했던 문제를 해결해 낸 ??세계 최고의 천재??라는 찬사를 한 몸에 받을 수 있었다. 둘째로 ??페르마의 정리??와 씨름을 벌이는 그 자체만으로도 사람들은 수수께끼에 도전한다는 순수한 만족감을 느낄 수 있었다. 앤드루 와일즈가 ??페르마의 마지막 정리??에 매혹된 것도 바로 이런 이유 때문이었다; ??순수 수학자는 항상 새로운 문제에 도전하는 것을 즐긴다. 풀리지 않은 문제에 애정을 느끼는 것이다. 수학에는 확실히 사람의 마음을 사로잡는 매력이 있다. 처음 문제를 대했을 때에는 단순한 호기심에서 출발한다. 문제가 너무 복잡하여 내용을 이해하지 못할 수도 있고 시작점을 찾지 못해 당황할 수도 있다. 그러나 결국 문제의 답을 구해냈을 때에는 그것이 얼마나 아름다우며 모든 논리들이 얼마나 우아하게 맞아떨어지는지 감탄을 금하지 못할 것이다. 그런데 처음에는 쉬워보였던 문제가 파고들면 들수록 더욱 복잡해져 가는 절망적인 경우도 있다. 그 대표적인 예가 바로 ??페르마의 마지막 정리??이다. 언뜻 보기에 그것은 너무도 간단하여 누구나 증명할 수 있는 것처럼 보인다. 게다가 페르마 자신도 증명을 해냈다고 주장했으니, 무언가 방법이 있긴 있을게 아닌가.??
20세기로 접어들던 무렵에 세계적인 논리학자로 명성을 떨쳤던 힐베르트는 사람들한테서 ??왜 페르마의 마지막 정리를 증명하려는 시도를 하지 않느냐.??라는 질문을 받고 다음과 같이 대답했다. ??페르마의 정리를 증명하려면 적어도 3년 이상의 시간을 집중적으로 투자해야 합니다. 하지만 실패할 것이 빤히 보이는 그런 무모한 일에 그 정도의 시간을 투자할 여력이 제게는 없습니다.?? 와일즈 역시 목적 달성을 위해서는 문제에 완전히 몰입해야 한다는 것을 잘 알고 있었다. 그러나 그는 결정적으로 힐베르트와 다른 점이 있었다. 그는 실패를 받아들일 준비가 되어 있었던 것이다. 그는 가장 최근에 발간된 학술지들을 있는 대로 수집하여 여러 학자들이 개발해 낸 최신의 계산법을 익혀나갔다. 계산이 완전히 손에 익어 습관처럼 몸에 배일 때까지 그는 지루할 정도로 연습을 반복했다. 한바탕 벌어질 전쟁에 대비하여 필요한 무기들을 모두 준비한 뒤에, 와일즈는 타원 방정식과 모듈 형태에 관련된 모든 수학들을 섭렵하면서 18개월의 시간을 보냈다. 그러나 그 정도는 시작에 불과했다. 그는 완전한 증명을 끝내기 위해서는 오로지 한 가지 생각만으로 10년 이상의 세월을 인내해야 한다고 생각했다.
와일즈는 ??페르마의 마지막 정리??를 증명하는 것과 직접적인 관련이 없는 모든 일에서 손을 뗐다. 전세계를 돌면서 끊임없이 계속되는 학술모임과 세미나에도 더 이상 참석하지 않았다. 빈번한 교수회의 때문에 집중력이 산만해지는 것을 피하기 위해 그는 대부분의 계산을 집에서 은밀하게 수행했다.
와일즈는 1950년대에 탄생했던 하나의 추론 (타니야마-시무라)을 증명함으로써 ??페르마의 마지막 정리??를 정복했다. 그는 지난 10년 사이에 개발된 일련의 새로운 수학 테크닉을 십분 활용하였으며 이들 중에는 와일즈 자신이 직접 고안해 낸 것도 있다. 그의 증명은 한마디로 말해 ??현대 수학의 야심작??이라고 할 수 있다. 따라서 와일즈의 증명은 그 옛날 페르마가 해냈다는 증명과는 판이하게 다른 것이다. 그렇다면 페르마는 어떤 방법으로 그것을 증명했을까? 이 점에 대하여 수학자들 사이에서는 상반된 의견이 양립하고 있다. 냉정하고 실제적인 수학자들은 페르마 역시 잘못된 증명을 해놓고는 그것을 그냥 믿어버렸을 거라고 생각하고 있다. 이보다 다소 낭만적이고 낙천적인 기질의 수학자들은 페르마가 정말로 영감어린 방법으로 증명했을 거라 믿고있다. 증명의 자세한 내용은 역시 알 길이 없지만 분명 그것은 17세기의 수학만으로 이루어진 천재적인 증명이었을 것이다. 그리고 그 안에는 오일러부터 와일즈에 이르는 모든 수학자들이 한결같이 놓쳐버린 경이로운 논리가 숨어 있을 것이다. 와일즈의 논문은 이미 출판되었지만 많은 수의 수학자들은 소실된 페르마의 진짜 증명을 재현시키는 영예를 누리기 위해 지금도 페르마와 전쟁을 벌이고 있다.